کشف حفره‌های امنیتی در اکوسیستم هوش مصنوعی

اچ‌دی مور، پژوهشگر امنیتی، با اجرای یک آزمایش خلاقانه و گسترده، پرده از نشت گسترده اطلاعات حساس در زنجیره تأمین هوش مصنوعی برداشت. او با کاشت ۲ میلیون «قناری» دیجیتال—داده‌های جعلی اما معتبر که برای ردیابی نشت استفاده می‌شوند—در درخواست‌های ارسالی به سرویس‌های مختلف، بررسی کرد که چگونه اطلاعات کاربران در این شبکه پیچیده جابه‌جا و احتمالا افشا می‌شود.

نقش مسیریاب‌های هوش مصنوعی در نشت داده‌ها

بسیاری از برنامه‌های مدرن هوش مصنوعی به جای اتصال مستقیم به مدل‌های بزرگ مانند OpenAI یا Anthropic، از واسط‌هایی به نام «مسیریاب‌های هوش مصنوعی» (AI Routers) یا «دروازه‌های هوش مصنوعی» مانند OpenRouter یا Vercel استفاده می‌کنند. این سرویس‌ها وظیفه دارند درخواست‌های کاربران را بر اساس معیارهایی نظیر هزینه یا کارایی، به مدل‌های مختلف هدایت کنند. آزمایش مور نشان داد که این لایه واسط، خود به یک نقطه ضعف امنیتی بزرگ تبدیل شده است.

روش‌شناسی آزمایش

مور برای ردیابی دقیق مسیر نشت، مجموعه‌ای از داده‌های حساس ساختگی شامل موارد زیر را در درخواست‌ها قرار داد:

  • کلیدهای دسترسی AWS متصل به حساب‌های خالی
  • گذرواژه‌های سرویس‌هایی مانند SSH
  • نشانی‌های وب منحصر‌به‌فرد و نام‌های DNS
  • ارجاعات به مخازن خصوصی گیت

از آنجا که این داده‌ها هرگز پیش از این استفاده نشده بودند، هرگونه فعالیت مرتبط با آن‌ها به معنای نشت مستقیم از طریق زنجیره تأمین هوش مصنوعی بود. این «قناری‌ها» به مور اجازه دادند تا دقیقاً مشخص کند کدام بخش از این زنجیره مسئول افشای اطلاعات بوده است.

این یافته‌ها زنگ خطری برای توسعه‌دهندگان و شرکت‌هایی است که بدون ارزیابی دقیق امنیتی، داده‌های حساس کاربران خود را به سرویس‌های واسط می‌سپارند. نشت اطلاعات در این سطح می‌تواند منجر به سرقت پرامپت‌ها، نقض حریم خصوصی و دسترسی غیرمجاز به زیرساخت‌های ابری شود.

: Ars Technica. .