سال‌ها روایت غالب این بود که اپل در حوزه هوش مصنوعی از رقبا عقب افتاده است؛ زیرا مدل مرزی (Frontier Model) اختصاصی ندارد، عرضه سیری هوشمند به تأخیر افتاده و روند معرفی Apple Intelligence نیز بی‌نقص نبوده است. اما اکنون نشانه‌هایی وجود دارد که اپل آگاهانه وارد این رقابت پرهزینه نشده و به‌جای ساخت مدل مرزی، زیرساخت سخت‌افزاری و نرم‌افزاری اجرای مدل‌های محلی را تقویت کرده است.
از Xserve تا مک‌استودیو؛ زیرساخت هوش مصنوعی محلی
Xserve در سال ۲۰۱۱ متوقف شد، اما وارث معنوی آن اکنون روی میز کار قرار می‌گیرد، نه در رک داده‌مرکز. معماری حافظه یکپارچه (Unified Memory) سیلیکون اپل به پردازنده گرافیکی اجازه می‌دهد در یک مک‌استودیو تا ۵۱۲ گیگابایت حافظه را در اختیار بگیرد؛ محدودیتی که در کارت‌های گرافیک معمولی وجود دارد را کنار می‌زند و اجرای مدل‌های بزرگ‌تر را ممکن می‌کند.
MLX؛ چارچوب اپل برای مدل‌های محلی
MLX چارچوب یادگیری ماشین اپل است که به‌طور اختصاصی برای معماری حافظه یکپارچه سیلیکون اپل طراحی شده است. API این چارچوب برای کاربران NumPy آشناست و بسته‌های سطح بالاتری برای شبکه‌های عصبی و بهینه‌سازها، همراه با تبدیل‌های تابعی برای مشتق‌گیری خودکار و بهینه‌سازی گراف ارائه می‌کند. MLX همچنین اتصال‌هایی (Bindings) در Swift، C++ و C دارد و بنابراین روی هر پلتفرم اپل قابل اجراست.
Muse Spark Open و اجرای مدل بزرگ روی مک
مدل باز Muse Spark Open با ۸۱۶ میلیارد پارامتر، ۴۲ میلیارد پارامتر فعال و پنجره زمینه یک‌میلیون توکنی، نمونه‌ای از مدل‌هایی است که متا در دسترس قرار داده است. بر اساس مطلب پژوهشی اپل، چهار مک‌استودیو مجهز به M5 Ultra می‌توانند این مدل را با سرعت بیش از ۳۶ توکن بر ثانیه اجرا کنند؛ سرعتی بیشتر از توان خواندن انسان و با مصرف حداکثری حدود ۳۰۰ وات برای هر دستگاه.
حافظه یکپارچه سیلیکون اپل باعث می‌شود پردازنده گرافیکی یکپارچه M5 Ultra در هر مک‌استودیو تا ۵۱۲ گیگابایت حافظه را در اختیار بگیرد؛ بنابراین دو دستگاه می‌توانند کل یک مدل را نگه دارند. پهنای باند حافظه ۱.۲ ترابایت بر ثانیه نیز برای خواندن قطعه کوچکی که هر توکن نیاز دارد کافی است. نتیجه آن است که دو مک‌استودیو مانند یک ابررایانه با یک ترابایت حافظه یکپارچه رفتار می‌کنند.
Osaurus؛ هوش مصنوعی محلی حتی روی مک‌بوک ۱۶ گیگابایتی
در کنار مک‌استودیو، ابزارهای نرم‌افزاری نیز مسیر اجرای مدل‌های محلی را هموار کرده‌اند. Osaurus یک ابزار هوش مصنوعی رایگان و متن‌باز برای مک است که مدیریت مدل‌های محلی و کارکرد آفلاین را ممکن می‌کند و در صورت نیاز می‌تواند به یک مدل مرزی متصل شود. این ابزار حتی روی لپ‌تاپ ۱۶ گیگابایتی سیلیکون اپل قابل استفاده است و دو مدل نیز روی دستگاه‌های ۸ گیگابایتی اجرا می‌شوند.
- اجرای مدل محلی بدون نیاز به اتصال شبکه
- امکان فراخوانی مدل مرزی در صورت نیاز
- جایگزینی خودکار نام‌ها، شماره تلفن‌ها و شماره حساب‌ها با جایگزین‌های موقت پیش از ارسال به Claude یا OpenAI
- عدم وابستگی به سرور یا پایگاه داده مشتری
- نسخه رایگان برای افراد و سطح پرداختی Workspaces برای تیم‌ها
- نسخه بتای ویندوز که به گفته نویسنده، بیشتر به نفع اپل است تا ضرر آن
Osaurus سرور و پایگاه داده مشتری ندارد؛ اگر شرکت سازنده فردا تعطیل شود، برنامه تا زمانی که macOS آن را از کار نیندازد به کار خود ادامه می‌دهد. وجود نسخه ویندوز نیز نشان می‌دهد مزیت اصلی مک در این سناریو، همان حافظه یکپارچه سیلیکون اپل است.
جمع‌بندی
اپل در رقابت هوش مصنوعی به‌جای تلاش برای هم‌ترازی با مدل‌های مرزی، بر حافظه، پهنای باند و چارچوب نرم‌افزاری تمرکز کرده است. سیری همچنان عقب‌تر از رقباست، اما زیرساخت اپل برای اجرای مدل‌های باز و محلی به نقطه‌ای رسیده که می‌تواند جایگزین معنوی Xserve را روی میز کار، حتی با توان محدود، عملی کند.