سیستم‌های هوش مصنوعی نظیر ChatGPT و Gemini که هر روز در حال پیشرفت هستند، در سرویس‌های مختلفی که استارتاپ‌ها و شرکت‌های فناوری ارائه می‌دهند، کاربرد دارند. اما هر چه این ابزارها قابلیت‌های بیشتری به دست می‌آورند، روش‌های مختلفی برای حمله به آن‌ها نیز ظاهر می‌شوند. گروهی از پژوهشگران توانسته‌اند یک کرم کامپیوتری AI بسازند که می‌تواند از یک سیستم به سیستم دیگر منتشر شود و داده‌ها را دزدیده یا بر روی سیستم بدافزار قرار دهد.
«بن ناسی»، پژوهشگر Cornell Tech که عضو این تیم پژوهشی بوده است می‌گوید:
«این وضعیت به این معناست که شما اکنون می‌توانید نوع جدیدی از حمله سایبری را انجام دهید که قبلاً وجود نداشت.»
کرم هوش مصنوعی موریس II
ناسی با همکاری «استاو کوهن» و «ران بیتتون» این کرم کامپیوتری را که «موریس II» نامیده‌اند طراحی کرده‌اند. این نام از کرم کامپیوتری موریس اول الهام گرفته شده است که سال ۱۹۸۸ باعث ایجاد آشوب در اینترنت شد.
آن‌ها در مقاله خود نشان می‌دهند که کرم AI موریس II چگونه می‌تواند به یک دستیار هوش مصنوعی برای ایمیل حمله کند و داده‌های ایمیل‌ها را بردارد. علاوه بر این، می‌تواند برای کاربر ایمیل‌های اسپم ارسال کند که برای این کار از برخی از محافظت‌های امنیتی ChatGPT و Gemini عبور می‌کند.
برای ساخت این کرم هوش مصنوعی، پژوهشگران از یک دستور استفاده کرده‌اند که به اختصار، به سیستم‌های هوش مصنوعی می‌گوید که در پاسخ‌های خود مجموعه‌ای از دستورالعمل‌های اضافی را قرار دهند.
این پژوهش در زمانی انجام شده است که مدل‌های زبانی بزرگ (LLM) در حال تبدیل شدن به مدل‌های چند منظوره هستند که می‌توانند وظایفی مانند تولید تصویر و ویدیو را انجام دهند. در حالی که کرم‌های AI هنوز به خوبی شناخته نشده‌اند، چندین پژوهشگر اعلام کرده‌اند که این کرم‌ها یک خطر امنیتی محسوب می‌شوند و استارتاپ‌ها، توسعه‌دهندگان و شرکت‌های فناوری باید به آن‌ها توجه کنند.
