مشکلات امنیتی در ابزار هوش مصنوعی متا

گزارش‌های اخیر حاکی از آن است که ابزار هوش مصنوعی Muse، محصول شرکت متا، با چالش‌های جدی در زمینه حفظ حریم خصوصی و دقت عملکرد مواجه شده است. طبق اظهارات برخی از کارکنان، این سیستم در موارد متعددی دچار اختلال شده و اطلاعاتی را به کاربران نمایش داده که متعلق به آن‌ها نبوده یا هرگز توسط آن‌ها درخواست نشده است.

نشت اطلاعات و خطاهای سیستمی

بر اساس این گزارش، کاربران با موارد عجیبی در تعامل با این هوش مصنوعی مواجه شده‌اند که نشان‌دهنده نشت داده‌های حساس است. از جمله این موارد می‌توان به موارد زیر اشاره کرد:

  • نمایش پیام‌های مربوط به درخواست‌های مراقبت از کودک که کاربر هرگز ثبت نکرده است.
  • ارائه توصیه‌های شغلی ناخواسته که کاربر هیچ‌گاه در مورد آن‌ها پرسشی مطرح نکرده بود.
  • نمایش جزئیات سفارش‌های محصول که توسط کاربر انجام نشده است.
  • نمایش موجودی حساب‌های بانکی که متعلق به کاربر نبوده و به اشخاص دیگری تعلق داشته است.

این ناهنجاری‌ها نگرانی‌های گسترده‌ای را در مورد نحوه پردازش داده‌ها و امنیت زیرساخت‌های هوش مصنوعی متا ایجاد کرده است. ترکیب شدن مکالمات کاربران و نشت اطلاعات مالی و شخصی، پرسش‌های جدی را درباره استانداردهای امنیتی این شرکت مطرح می‌کند. تا این لحظه، متا هنوز جزئیات دقیقی از علت فنی این اختلالات ارائه نداده است، اما این گزارش‌ها نشان می‌دهد که سیستم Muse در تفکیک داده‌های کاربران و حفظ محرمانگی آن‌ها با شکست مواجه شده است.

: TechCrunch. .