اپل ادعا می‌کند که رویکرد آن‌ها باعث می‌شود LLMها سریع‌تر و کارآمدتر روی گوشی‌های آیفون اجرا شود.
محققان هوش مصنوعی اپل با ابداع یک تکنیک خلاقانه توانستند به پیشرفت مهمی در زمینه استقرار مدل‌های زبان بزرگ (LLM) روی گوشی‌های آیفون و سایر دستگاه‌های با حافظه محدود این شرکت دست پیدا کنند.
چت‌بات‌های مبتنی بر LLM مانند ChatGPT تمرکز زیادی روی داده و حافظه دارند و معمولاً برای عملکرد به حافظه بسیار زیادی نیاز دارند که این موضوع برای دستگاه‌هایی با حافظه محدود، مانند آیفون، یک چالش است. برای مقابله با این مشکل، محققان اپل تکنیک جدیدی را توسعه داده‌اند که از حافظه فلش – همان حافظه‌ای که برنامه‌ها و عکس‌ها شما در آن ذخیره می‌شود – برای ذخیره داده‌های مربوط به مدل هوش مصنوعی استفاده می‌کند.
رویکرد تازه اپل برای استقرار هوش مصنوعی موبایل
محققان در مقاله خود توضیح می‌دهند که در گوشی‌های موبایل، حافظه فلش از حافظه رم بیشتر است اما معمولاً برای اجرای مدل‌های زبان بزرگ از RAM استفاده می‌شود. در رویکرد آن‌ها، مدل هوش مصنوعی به‌جای اینکه هر بار داده‌های جدیدی را بارگیری کند، از داده‌هایی که در گذشته پردازش کرده، مجدداً استفاده خواهد کرد. این امر نیاز مداوم مدل به حافظه را کاهش می‌دهد و به‌طور کلی باعث سریع‌تر و روان‌ترشدن فرآیند می‌شود.
همچنین کوپرتینویی‌ها ادعا کرده‌اند که داده‌های مدل خود را به‌صورت کارآمدتر گروه‌بندی کرده‌اند تا درک و پردازش آن‌ها توسط هوش مصنوعی سریع‌تر انجام شود.
اپل در نهایت ادعا کرده که با وجود این رویکردها، مدل‌های هوش مصنوعی می‌توانند به‌اندازه دو برابر حافظه آیفون کار کنند. همچنین عملکرد آن‌ها در پردازنده‌های استاندارد ۴ تا ۵ برابر و در پردازنده‌های گرافیکی ۲۵ تا ۲۰ برابر سریع‌تر می‌شود. محققان اپل در بخشی از تحقیق خود می‌نویسند:
«این پیشرفت به‌ویژه برای استقرار LLMهای پیشرفته در محیط‌های با منابع محدود اهمیت زیادی دارد و در نتیجه باعث افزایش کاربرد و دسترسی آن‌ها می‌شود.»
اولین بار در تیر ماه امسال گفته شد که اپل در رقابت با ChatGPT روی توسعه چت‌بات هوش مصنوعی خود کار می‌کند که ممکن است «اپل GPT» نام بگیرد. اخیراً نیز گفته شده بود که اپل قصد دارد «سیری» را با هوش مصنوعی متحول کند و احتمالاً نسخه ارتقایافته دستیار هوشمند سیری با قابلیت‌های هوش مصنوعی سال آینده میلادی در رویداد WWDC 2024 معرفی می‌شود.
منبع : دیجیاتو
