چالش‌های نظارت بر هوش مصنوعی

هلن تونر، مدیر اجرایی مرکز امنیت و فناوری‌های نوظهور (CSET) در دانشگاه جورج‌تاون، در مصاحبه‌ای با پادکست Decoder به بررسی وضعیت فعلی ایمنی هوش مصنوعی پرداخت. تونر که پیش‌تر به عنوان یکی از چهار عضو هیئت مدیره OpenAI در جریان برکناری موقت سم آلتمن نقش داشت، معتقد است که تکیه بر اعتماد به مدیران عامل برای تضمین ایمنی، رویکردی مخاطره‌آمیز است.

شکست مکانیسم‌های پاسخگویی

ساختار غیرانتفاعی OpenAI در ابتدا با هدف اولویت‌بندی ایمنی بر سود طراحی شده بود، اما تجربه تونر نشان داد که وقتی هیئت مدیره سعی کرد از این قدرت نظارتی استفاده کند، مکانیسم‌های پاسخگویی عملاً شکست خوردند. او تأکید می‌کند که اگر آینده ما به قابل اعتماد بودن یک فرد خاص وابسته باشد، با مشکلات جدی مواجه خواهیم بود.

تأثیر لابی‌گری و سیاست

در بخش دیگری از این گفتگو، تونر به پویایی‌های سیاسی در واشینگتن پرداخت. با وجود هزینه‌های کلان شرکت‌های فناوری برای تأثیرگذاری بر سیاست‌مداران، او معتقد است که تقاضای واقعی برای اطلاعات دقیق و بی‌طرفانه در میان قانون‌گذاران وجود دارد. به گفته او، سیاست‌مداران به دنبال تحلیل‌های تخصصی هستند تا بتوانند پیچیدگی‌های مقررات‌گذاری در حوزه هوش مصنوعی را درک کنند.

  • تلاش‌های داوطلبانه برای ایمنی هوش مصنوعی اغلب ناکافی هستند.
  • فشار بازارهای تجاری بر شرکت‌هایی مانند Anthropic و OpenAI می‌تواند تعهدات ایمنی را تحت‌الشعاع قرار دهد.
  • نیاز به رویکردهای هوشمندانه‌تر و ساختارمندتر برای تنظیم‌گری هوش مصنوعی بیش از هر زمان دیگری احساس می‌شود.

تونر در نهایت بر این باور است که با وجود نفوذ مالی شرکت‌های بزرگ، رویکردهای غیرحزبی و مبتنی بر شواهد همچنان در فضای سیاست‌گذاری ایالات متحده جایگاه مؤثری دارند.

: The Verge. .