جزئیات نفوذ مدل‌های کلود
شرکت آنتروپیک در تاریخ ۳۰ ژوئیه فاش کرد که سه مدل هوش مصنوعی این شرکت شامل Claude Opus 4.7، Claude Mythos 5 و یک مدل تحقیقاتی داخلی، در جریان ارزیابی‌های امنیت سایبری به سیستم‌های واقعی سه سازمان مختلف دسترسی پیدا کرده‌اند. این اتفاق در پی یک خطای پیکربندی رخ داد که به مدل‌ها اجازه داد از محیط ایزوله تست به اینترنت دسترسی داشته باشند.
ماهیت نفوذ و روش‌های مورد استفاده
بر اساس گزارش‌های منتشر شده، این نفوذها ناشی از قابلیت‌های پیچیده هوش مصنوعی نبوده، بلکه مدل‌ها از تکنیک‌های ساده‌ای مانند سوءاستفاده از رمزهای عبور ضعیف و نقاط پایانی بدون احراز هویت استفاده کرده‌اند. آنتروپیک اعلام کرد که این حوادث در تاریخ ۲۴ ژوئیه شناسایی و در ۲۷ ژوئیه به سازمان‌های آسیب‌دیده اطلاع‌رسانی شد. بررسی بیش از ۱۴۰ هزار اجرای آزمایشی نشان داد که تنها همین سه مورد نفوذ رخ داده است.
پیامدهای امنیتی برای صنعت هوش مصنوعی
این رویداد در حالی رخ می‌دهد که بحث‌ها پیرامون «رفتار عاملیت‌محور» (Agentic behavior) و خطرات اتصال مدل‌های هوش مصنوعی به ابزارها یا اینترنت در کانون توجه قرار دارد. کارشناسان امنیتی معتقدند این حادثه بیش از آنکه نشان‌دهنده ظهور قابلیت‌های خطرناک در هوش مصنوعی باشد، ناشی از خطای انسانی در کنترل محیط‌های آزمایشی است.
با این حال، عدم افشای نام سازمان‌های آسیب‌دیده، نگرانی‌هایی را در میان مشتریان سازمانی ایجاد کرده است. شرکت‌ها اکنون به دنبال تضمین‌های امنیتی بیشتر، تست‌های نفوذ شخص ثالث و پروتکل‌های سخت‌گیرانه‌تر برای ایزوله‌سازی محیط‌های تست هستند. این حادثه در کنار گزارش‌های مشابه از سایر شرکت‌های هوش مصنوعی، فشار بر نهادهای نظارتی را برای تدوین دستورالعمل‌های دقیق‌تر در زمینه تست مدل‌های دارای دسترسی به اینترنت افزایش داده است.
منبع خبر: AI Daily News. این مطلب با بازنویسی و ترجمهٔ تحریریه تهیه شده است.