تلاش اوپن‌ای‌آی برای مقابله با محتوای غیرقانونی

شرکت اوپن‌ای‌آی در یک نشست خبری در واشینگتن دی‌سی، از ابزار جدیدی رونمایی کرد که هدف آن کمک به بازرسان پرونده‌های سوءاستفاده جنسی از کودکان است. این ابزار که به عنوان یک طبقه‌بندی‌کننده (Classifier) عمل می‌کند، قادر است تصاویر آسیب‌زا را با دقت بیشتری شناسایی کند. یکی از ویژگی‌های کلیدی این فناوری، توانایی تشخیص محتوایی است که توسط هوش مصنوعی تولید شده است.

حمایت از نهادهای نظارتی و قانونی

علاوه بر معرفی این ابزار، اوپن‌ای‌آی اعلام کرده است که دسترسی رایگان به این فناوری را برای سازمان‌های تاییدشده فراهم می‌کند. این شرکت همچنین قصد دارد راهنمایی‌های فنی بیشتری را در اختیار توسعه‌دهندگان قرار دهد تا بتوانند محتوای مخرب را بهتر شناسایی کنند. بخشی از این طرح شامل آموزش نیروهای انتظامی است تا آن‌ها بتوانند از قابلیت‌های هوش مصنوعی برای پیشبرد سریع‌تر تحقیقات خود بهره ببرند.

فشار سیاست‌گذاران بر شرکت‌های هوش مصنوعی

این اقدام در حالی صورت می‌گیرد که اوپن‌ای‌آی و سایر شرکت‌های بزرگ حوزه هوش مصنوعی با فشارهای فزاینده‌ای از سوی سیاست‌گذاران و نهادهای نظارتی مواجه هستند. منتقدان معتقدند که این شرکت‌ها باید محدودیت‌های ایمنی سخت‌گیرانه‌تری را برای ابزارهای خود اعمال کنند تا از سوءاستفاده‌های احتمالی جلوگیری شود. این ابزار جدید گامی در جهت پاسخگویی به این نگرانی‌ها و کاهش حجم انبوه گزارش‌های دریافتی توسط خطوط ویژه گزارش‌دهی سوءاستفاده از کودکان محسوب می‌شود.

: The Verge. .