هوش مصنوعی استدلالی OpenAI گاهی اوقات به طرز عجیبی «چینی و فارسی فکر می‌کند»، و هیچ‌کس به طور قطعی نمی‌داند دلیل این امر چیست.
هوش مصنوعی OpenAI اخیراً رفتار عجیبی از خود نشان داده است که موجب شگفتی کاربران شده؛ چرا که گاهی اوقات به زبان‌هایی مانند چینی و فارسی فکر می‌کند.
پس از معرفی مدل هوش مصنوعی استدلالی O1 توسط OpenAI، کاربران متوجه پدیده‌ای غیرمنتظره شدند: حتی وقتی سؤالات به زبان انگلیسی پرسیده می‌شود، مدل در مراحل پاسخ‌دهی گاهی به زبان‌هایی چون چینی، فارسی یا دیگر زبان‌ها استدلال می‌کند و سپس پاسخ را به زبان اصلی سؤال ارائه می‌دهد.
برخی متخصصان معتقدند که این پدیده به دلیل استفاده از داده‌های چینی در فرایند آموزش مدل است. شرکت‌هایی چون OpenAI برای برچسب‌گذاری داده‌های پیشرفته علمی و ریاضی از خدمات شرکت‌های چینی بهره می‌برند. این برچسب‌ها نقش مهمی در یادگیری مدل‌ها دارند و ممکن است باعث تأثیرات زبانی یا جانب‌داری شوند.
در مقابل، برخی دیگر از کارشناسان بر این باورند که انتخاب زبان توسط مدل ارتباطی با داده‌های چینی ندارد. آن‌ها می‌گویند مدل‌ها به طور تصادفی یا بسته به نیاز، زبان‌هایی را انتخاب می‌کنند که در انجام یک وظیفه خاص کارآمدتر باشند. به این دلیل که مدل‌ها کلمات را به صورت توکن پردازش می‌کنند، برای آن‌ها تفاوتی میان زبان‌ها وجود ندارد.
نظریه‌های دیگری نیز مطرح شده است که پاسخ‌های چینی ChatGPT را به عنوان نتیجه الگوهای احتمالاتی آموزش مدل می‌دانند. به عنوان مثال، استفاده از زبان چینی برای برخی محاسبات ریاضی به دلیل سادگی و کارایی بیشتر در برخی موارد ممکن است بهینه‌تر باشد.
در نهایت، به دلیل پیچیدگی‌های فرآیند ساخت و عدم شفافیت کامل در نحوه آموزش این مدل‌ها، علت دقیق این رفتار هنوز مشخص نیست. از این رو، کارشناسان بر لزوم افزایش شفافیت در نحوه ساخت و آموزش سیستم‌های هوش مصنوعی تأکید دارند تا بتوان علت این پدیده‌ها را به درستی درک کرد.
منبع زومیت
