چت‌جی‌پی‌تی حالا دو قابلیت جدید برای حفظ سلامت کاربران دارد: یادآوری استراحت و پرهیز از مداخله در تصمیم‌های حساس.
در واکنش به گزارش‌هایی درباره تشدید توهم و پریشانی روانی برخی کاربران، OpenAI ویژگی‌هایی جدید برای محافظت از سلامت کاربران ChatGPT معرفی کرده است. این اقدامات شامل یادآوری برای استراحت و پاسخ‌های محتاطانه‌تر در برابر تصمیمات شخصی پرخطر است تا تعاملی ایمن‌تر و سالم‌تر با هوش مصنوعی فراهم شود.
این به‌روزرسانی جدید OpenAI پس از انتشار گزارش‌هایی در ماه‌های اخیر انجام شده که نشان می‌داد برخی افراد پس از تعامل با ChatGPT دچار بحران‌های روانی شده‌اند. در مواردی، این چت‌بات ناخواسته توهمات کاربران را تأیید یا تشدید کرده بود. OpenAI با پذیرش بخشی از این کاستی‌ها اعلام کرده که مدل GPT-4o در تشخیص نشانه‌های وابستگی عاطفی یا توهم، عملکرد دقیقی نداشته است.
تغییرات جدید OpenAI برای سلامت کاربران
برای ترویج استفاده‌ای سالم از ChatGPT با حدود ۷۰۰ میلیون کاربر هفتگی، دو قابلیت کلیدی جدید ارائه شده است:
هشدار زمان استراحت
در مکالمات طولانی، ChatGPT حالا پیامی نمایش می‌دهد با این مضمون: «مدتی است مشغول گفتگو هستید؛ وقت استراحت نیست؟» این قابلیت مشابه ویژگی‌های موجود در یوتیوب، اینستاگرام و تیک‌تاک است و با هدف جلوگیری از استفاده بیش‌ازحد و ایجاد رابطه‌ای ناسالم با هوش مصنوعی طراحی شده است.
پرهیز از مداخله در تصمیم‌های شخصی حساس
یکی از مهم‌ترین تغییرات، رویکرد تازه ChatGPT در مواجهه با پرسش‌های حساس شخصی است. به‌گفته OpenAI، وقتی کاربری سؤالی مانند «آیا باید از شریک زندگی‌ام جدا شوم؟» مطرح می‌کند، چت‌بات نباید پاسخ قطعی بدهد؛ بلکه باید گفت‌وگویی هدایت‌شده برای کمک به تفکر بهتر کاربر فراهم کند. این رفتار جدید با هدف جلوگیری از مداخله مستقیم هوش مصنوعی در تصمیمات حیاتی زندگی انسان‌ها طراحی شده و به‌زودی در دسترس خواهد بود.
برای اطمینان از مناسب بودن پاسخ‌های ChatGPT در شرایط حساس و حفظ تکیه بر شواهد علمی، OpenAI همکاری گسترده‌ای با بیش از ۹۰ پزشک متخصص در بیش از ۳۰ حوزه مختلف آغاز کرده است. این اقدام با هدف بهبود کیفیت پاسخ‌ها در مواقع پریشانی عاطفی کاربران انجام شده است.
منبع: دیجیاتو
