مدل‌های هوش مصنوعی جدید گوگل با نام PaliGemma 2 روز پنج‌شنبه معرفی شدند و به گفته گوگل، این مدل‌ها قادر به تشخیص احساسات هستند.این مدل‌های هوش مصنوعی جدید گوگل می‌توانند با مشاهده تصاویر اشخاص، احساسات آن‌ها را شناسایی کرده، کپشن تولید کنند و به سؤالات کاربران پاسخ دهند.
طبق گزارش تک‌کرانچ، PaliGemma 2 قادر به تولید کپشن‌های دقیق است و علاوه بر شناسایی اشیاء، می‌تواند اعمال، احساسات و کلیت صحنه را توصیف کند. با این حال، قابلیت تشخیص احساسات به‌طور پیش‌فرض فعال نیست و PaliGemma 2 برای شناسایی احساسات نیاز به تنظیمات خاصی دارد. برخی کارشناسان نیز از احتمال ایجاد یک سیستم عمومی تشخیص احساسات نگران هستند.
ساندرا واچر، استاد اخلاق داده و هوش مصنوعی در مؤسسه اینترنت آکسفورد، این ایده را نگران‌کننده می‌داند و می‌گوید: «اینکه بخواهیم احساسات افراد را بخوانیم شبیه به این است که از یک توپ جادویی مشاوره بخواهیم.»
از سال‌ها پیش، استارتاپ‌ها و شرکت‌های بزرگ فناوری در تلاش بوده‌اند تا هوش مصنوعی‌ای بسازند که قادر به تشخیص احساسات باشد، اما بیشتر این تلاش‌ها بر اساس اصول تجربی سست استوار است. بسیاری از سیستم‌های تشخیص احساسات بر نظریه پل اکرمن، روان‌شناس مشهور، که انسان‌ها را با شش احساس اصلی دسته‌بندی کرده، استوار هستند؛ اما مطالعات جدید نشان داده‌اند که تفاوت‌های فرهنگی و فردی در نحوه ابراز احساسات، این نظریه را به چالش کشیده است.
میک کوک، پژوهشگر دانشگاه کین ماری و متخصص هوش مصنوعی، باور دارد که تشخیص احساسات به‌طور کلی امکان‌پذیر نیست، چرا که انسان‌ها احساسات خود را به‌طور پیچیده‌ای تجربه می‌کنند. او می‌گوید که سیستم‌های تشخیص احساسات معمولا غیرقابل اعتمادند و تحت‌تأثیر پیش‌فرض‌های طراحان خود قرار دارند. تحقیقات اخیر نشان داده‌اند که مدل‌های تحلیل احساسات ممکن است احساسات منفی‌تری به چهره‌های افراد سیاه‌پوست نسبت به چهره‌های سفیدپوست نسبت دهند.
گوگل اعلام کرده که آزمون‌های زیادی برای ارزیابی تعصبات جمعیتی در PaliGemma 2 انجام داده، اما این شرکت جزئیات کاملی از معیارها و روش‌های تست خود ارائه نکرده است. تنها معیار منتشر شده، مجموعه FairFace است که شامل هزاران عکس چهره است و گوگل ادعا می‌کند که PaliGemma 2 در آن نمره‌ی خوبی کسب کرده است. اما برخی محققان به این معیار انتقاد دارند و معتقدند که این مجموعه تنها چند گروه نژادی را نمایندگی می‌کند.
هیدی خلاف، دانشمند ارشد هوش مصنوعی در مؤسسه AI Now، که تأثیرات اجتماعی هوش مصنوعی را بررسی می‌کند، اعتقاد دارد که تفسیر احساسات موضوعی شخصی است و تحقیقات نشان می‌دهند که نمی‌توان احساسات افراد را تنها بر اساس ویژگی‌های چهره شناسایی کرد.
قوانین اصلی هوش مصنوعی در اتحادیه اروپا استفاده از ابزارهای تشخیص احساسات را در مدارس و سازمان‌ها (به‌جز نهادهای اجرای قانون) منع کرده است. بزرگ‌ترین نگرانی درباره مدل‌های باز مانند PaliGemma 2 این است که ممکن است سوءاستفاده شوند و آسیب‌های جدی به‌دنبال داشته باشند.
گوگل در پاسخ به نگرانی‌ها درباره خطرات مدل PaliGemma 2، تأکید کرده که ارزیابی‌های زیادی از نظر اخلاقی و امنیتی، به‌ویژه در زمینه امنیت کودکان و محتوا، انجام داده است. این شرکت معتقد است که نوآوری مسئولانه به این معناست که از همان ابتدا به عواقب آزمایش‌ها فکر کرده و این رویکرد را در طول چرخه عمر محصول ادامه می‌دهد.
منبع زومیت
