جنجال هوش مصنوعی متا؛ مکالمه «عاطفی» با کودکان
متا اعلام کرد دستورالعمل‌ها اصلاح و مشکل رفع شده است.
یک سند داخلی متا که خبرگزاری رویترز به آن دست یافته نشان می‌دهد دستورالعمل‌های طراحی‌شده برای چت‌بات‌های هوش مصنوعی این شرکت، نمونه‌هایی از تعامل مجاز با کاربران را شامل می‌شده که حتی گفت‌وگوهای «رمانتیک یا حسی» با کودکان را در بر داشته است. متا با تأیید صحت این سند اعلام کرده که پس از طرح نگرانی‌ها، این موارد را از دستورالعمل‌ها حذف کرده و تغییرات لازم را اعمال کرده است.
رویترز گزارش داد سند مرتبط با سیاست‌های متا درباره چت‌بات‌های هوش مصنوعی، علاوه بر «Meta AI» ربات‌های فیسبوک، واتساپ و اینستاگرام را هم دربر می‌گیرد. در این دستورالعمل میان گفت‌وگوهای «رمانتیک یا حسی» و مکالماتی شامل «اقدامات جنسی» یا توصیف جذابیت جنسی کودکان زیر ۱۳ سال تفاوت گذاشته شده است.
متا به وب‌سایت Engadget اعلام کرد مثال‌های موجود در سند صرفاً یادداشت‌ها و حاشیه‌نویسی‌های اشتباه بوده و بیانگر سیاست رسمی شرکت نیستند.
چالش‌های بر سر هوش مصنوعی متا
با این حال، این سند حاوی یادداشت‌هایی است که به گفته منتقدان، نگران‌کننده و مشکل‌ساز هستند. از جمله این موارد می‌توان به توصیف ظاهر یک کودک هشت‌ساله به‌عنوان «اثر هنری» یا ارائه پاسخ‌های عاشقانه به یک دانش‌آموز دبیرستانی اشاره کرد. همچنین، بخش‌هایی از سند به پاسخ‌های غیرقابل‌قبولی پرداخته که شامل توصیف‌های جنسی از کودکان یا تشریح صریح اقدامات جنسی مرتبط با آن‌ها می‌شود.
این سند در حوزه مسائل نژادی نیز جنجال‌برانگیز بوده است. در یکی از یادداشت‌ها آمده که پاسخ به درخواست کاربر برای استدلال درباره «کم‌هوش‌تر بودن سیاه‌پوستان نسبت به سفیدپوستان» مجاز است، مشروط بر اینکه شامل توهین‌های غیرانسانی مانند «میمون‌های بی‌مغز» نباشد.
به گزارش رویترز، این سند با همکاری و تأیید تیم‌های حقوقی، سیاست‌گذاری عمومی و مهندسی متا تدوین شده و حتی رئیس بخش اخلاق این شرکت نیز در تهیه آن نقش داشته است.
متا در بیانیه‌ای به وب‌سایت Engadget اعلام کرد:
«ما سیاست‌های روشنی درباره نوع پاسخ‌های قابل ارائه توسط شخصیت‌های هوش مصنوعی داریم که شامل ممنوعیت محتوای جنسی‌سازی کودکان و نقش‌آفرینی جنسی میان بزرگسالان و خردسالان می‌شود. علاوه بر این سیاست‌ها، صدها مثال، یادداشت و حاشیه‌نویسی برای بررسی سناریوهای فرضی مختلف تهیه شده است. مثال‌ها و یادداشت‌های مورد بحث اشتباه بوده، با سیاست‌های ما مطابقت نداشته و حذف شده‌اند.»
منبع: دیجیاتو
