انویدیا از ابرکامپیوتر شخصی جدید خود برای هوش مصنوعی رونمایی کرد

Project Digits از ۱۲۸ گیگابایت حافظه یکپارچه و تا ۴ ترابایت حافظه NVMe بهره می‌برد (در حالی که معمولاً بهترین لپ‌تاپ‌ها بین ۱۶ تا ۳۲ گیگابایت حافظه دارند). برای پردازش مدل‌های پیچیده‌تر، امکان اتصال دو دستگاه به یکدیگر وجود دارد تا مدل‌هایی با ۴۰۵ میلیارد پارامتر پردازش شوند. برای مقایسه، بهترین مدل هوش مصنوعی متا، Llama 3.1، دارای ۴۰۵ میلیارد پارامتر است.

تراشه‌ی GB10 قادر است در هر ثانیه یک پتافلاپ (۱,۰۰۰ تریلیون محاسبه) عملیات هوش مصنوعی را با دقت FP4 انجام دهد. این دقت از روش‌های تقریبی برای افزایش سرعت و بهینه‌سازی اجرا استفاده می‌کند.

این سیستم از هسته‌های CUDA و هسته‌های تنسور نسل پنجم انویدیا بهره می‌برد که از طریق NVLink-C2C به پردازنده گریس بلک‌ول متصل شده‌اند. این پردازنده دارای ۲۰ هسته کم‌مصرف مبتنی بر Arm است. شرکت مدیاتک که در طراحی تراشه‌های کم‌مصرف تخصص دارد، در توسعه‌ی تراشه‌ی GB10 با انویدیا همکاری کرده تا عملکرد انرژی و کارایی سیستم بهینه شود.

کاربران به مجموعه کاملی از نرم‌افزارهای هوش مصنوعی انویدیا دسترسی خواهند داشت، از جمله کیت‌های توسعه، ابزارهای هماهنگ‌سازی و مدل‌های از پیش‌آموزش‌دیده.

Digits از سیستم‌عامل Nvidia DGX OS استفاده می‌کند و با چارچوب‌های برنامه‌نویسی محبوبی مانند PyTorch، Python و Jupyter سازگاری دارد. توسعه‌دهندگان می‌توانند با استفاده از چارچوب Nvidia NeMo مدل‌ها را به‌طور دقیق تنظیم کرده و با بهره‌گیری از کتابخانه‌های Nvidia RAPIDS، گردش کار سریع‌تری در علوم داده ایجاد کنند.

علاوه بر این، کاربران می‌توانند مدل‌های هوش مصنوعی خود را به‌طور محلی روی Project Digits توسعه دهند و آزمایش کنند و سپس آن‌ها را با همان معماری گریس بلک‌ول و پلتفرم نرم‌افزاری Nvidia AI Enterprise در سرویس‌های ابری یا زیرساخت‌های مرکز داده پیاده‌سازی کنند.

انویدیا همچنین سیستم‌های دیگری مشابه Digits با قابلیت دسترسی آسان عرضه می‌کند. به‌عنوان مثال، در ماه دسامبر، نسخه‌ی ۲۴۹ دلاری Jetson Orin Nano Super را برای کاربردهای هوش مصنوعی معرفی کرد. این سیستم که به‌طور خاص برای علاقه‌مندان و استارتاپ‌ها طراحی شده، قادر به پردازش مدل‌هایی با ۸ میلیارد پارامتر است.

منبع زومیت