به گزارش 9to5Mac، در بخش «Apple @ Work» این‌طور استدلال شده که اپل با تکیه بر تراشه‌های اپل سیلیکون و فریمورک MLX، بی‌آن‌که مدل پیشرو خودش را داشته باشد، به یکی از بهترین بسترهای اجرای محلی هوش مصنوعی در سازمان‌ها تبدیل شده است. نمونه‌ی تازه‌اش مدل متنباز Muse Spark Open از متاست که برای اجرا روی مک استودیو بهینه شده است.
اپل در رقابت مدلهای پیشرو نبود، اما برنده شد؟
سال‌هاست روایت رایج این است که اپل در هوش مصنوعی عقب مانده است: Siri AI با تأخیر روبه‌رو شد و عرضه‌ی Apple Intelligence هم چندان درخشان نبود. برادلی چمبرز، مدیر آی‌تی باسابقه و نویسنده‌ی این ستون، می‌گوید در نگاه به گذشته شاید اپل کار درستی کرد که وارد این مسابقه نشد. به نظر او کسب‌وکار مدلهای پیشرو به نوعی آتش‌افروزی سرمایه تبدیل شده است؛ آزمایشگاه‌ها میلیاردها دلار روی پردازنده‌های گرافیکی خرج میکنند تا چند ماه در صدر باشند، و به‌محض آن‌که مدلی به‌اندازه‌ی کافی خوب شود، نسخه‌ی متن‌بازی از آن می‌آید که روی سخت‌افزار موجود اجرا میشود.
البته او هم اذعان میکند که Siri هنوز فاصله‌ی زیادی با رقبا دارد. اگر می‌خواهید وضعیت فعلی Siri AI را دنبال کنید، گزارش ما درباره‌ی نرسیدن Siri AI به هوم‌پاد مینی ۲ نمونه‌ی خوبی از همین ماجراست.
Muse Spark Open و مک استودیو M5 Ultra
مدل Muse Spark Open دارای ۸۱۶ میلیارد پارامتر، ۴۲ میلیارد پارامتر فعال و پنجره‌ی زمینه‌ی یک‌میلیون‌توکنی است و متا آن را رایگان در اختیار همگان گذاشته است. اپل این مدل را نساخته، اما سختافزاری را ساخته که آن را اجرا میکند. به لطف حافظهی یکپارچه، پردازنده‌ی گرافیکی در یک مک استودیو می‌تواند تا ۵۱۲ گیگابایت حافظه را استفاده کند و دیگر محدود به حافظهی کارت گرافیک نیست.
طبق مقاله‌ی بخش تحقیقات یادگیری ماشین اپل، چهار مک استودیوی M5 Ultra این مدل را با سرعتی بیش از ۳۶ توکن در ثانیه اجرا میکنند؛ سرعتی که از سرعت خواندن انسان بیشتر است، آن هم با مصرف حدود ۳۰۰ وات برای هر دستگاه. متا نیز توضیح داده که با پهنای باند ۱٫۲ ترابایت بر ثانیه‌ی تراشه، دو مک استودیو مثل یک ابررایانه با یک ترابایت حافظهی یکپارچه رفتار میکنند.
در آزمایش‌ها، گردش‌کارهای عاملی کاملاً روی دستگاه اجرا شده‌اند: ابزار Muse Code با همین مدل، رفع باگ، افزودن قابلیت و ساخت کامل تغییرات iOS را برای کلاینت متنباز ماستودون یعنی Ice Cubes انجام داده و حتی DaVinci Resolve را از ابتدا تا انتها کنترل کرده است؛ مدل فیلم را فریم‌به‌فریم بررسی میکند، بهترین لحظه‌ها را پیدا میکند و آن‌ها را عمودی برش می‌زند.
MLX چیست و چرا اهمیت دارد؟
MLX فریمورک یادگیری ماشین اپل است که مخصوص معماری حافظهی یکپارچهی اپل سیلیکون ساخته شده است. API آن برای کسانی که با NumPy کار کرده‌اند آشناست و بسته‌هایی سطح بالاتر برای شبکه‌های عصبی و بهینه‌سازها دارد. همچنین از تبدیل‌های تابعی برای مشتق‌گیری خودکار و بهینه‌سازی گراف پشتیبانی میکند و با اتصال‌هایی در Swift، C++ و C روی همه‌ی پلتفرمهای اپل قابل استفاده است.
بازگشت روح Xserve
اپل سرور Xserve را در سال ۲۰۱۱ کنار گذاشت، چون کسی مک را برای دیتاسنتر نمی‌خواست. مک مینی بعدها کاربردهای تازه‌ای باز کرد، و حالا چند مک استودیو می‌توانند مدلی را میزبانی کنند که در حالت عادی به یک رک سخت‌افزار انویدیا و برق متناسب با آن نیاز دارد؛ آن هم آن‌قدر ساکت که زیر میز جا شود. چمبرز حدس می‌زند شرکت‌هایی مانند MacStadium از این آینده خوشحال باشند.
Osaurus؛ هوش مصنوعی محلی روی مک‌بوک‌های ساده
اما برای بیشتر تیم‌های آی‌تی، ماجرای مهم‌تر در سمت دیگر خط تولید است. Osaurus ابزار رایگان و متنباز برای مک است که مدلهای محلی آفلاین را مدیریت میکند و در صورت نیاز می‌تواند مدل پیشرو را هم صدا بزند. یک مدل کاربردی روی لپتاپ اپل سیلیکون با ۱۶ گیگابایت رم اجرا میشود و دو مدل هم روی ۸ گیگابایت کار میکنند.
قابلیت جالب آن این است که پیش از ارسال هر متنی به Claude یا OpenAI، یک مدل کوچک محلی نام‌ها، شماره‌تلفن‌ها و شماره‌حساب‌ها را پیدا و با جایگزین‌های موقت عوض میکند. این برنامه سرور و پایگاه‌داده‌ی مشتری ندارد؛ یعنی حتی اگر شرکت تعطیل شود، تا زمانی که macOS آن را از کار نیندازد به کار ادامه می‌دهد. افراد از آن رایگان استفاده میکنند و لایه‌ی پولی Workspaces برای تیم‌هایی است که می‌خواهند عامل‌ها را بین مک‌های خود به اشتراک بگذارند. نسخه‌ی بتای ویندوز هم وجود دارد که به گفته‌ی چمبرز به نفع اپل تمام میشود، چون وقتی یک برنامه روی هر دو پلتفرم اجرا شود، حافظهی یکپارچهی مک تفاوت را رقم می‌زند.
«به‌اندازه‌ی کافی خوب» همان چیزی است که کارکنان می‌خواهند
ترنس پائه، هم‌بنیان‌گذار Osaurus، معتقد است تا سال آینده ممکن است یک مدل محلی به توان مدلهای پیشرو امروز برسد. چمبرز حرفش را باور دارد: مرز فناوری مدام جلو می‌رود، اما «به‌اندازه‌ی کافی خوب» هم جلو می‌رود و بیشتر کارکنان بیشتر ساعت‌های کاری فقط به همین نیاز دارند. اپل در دوران رقابت هوش مصنوعی روی حافظه، پهنای باند و فریمورک سرمایه‌گذاری کرد، و حالا توانمندترین مدل متنباز آمریکا برای مک بهینه شده است. برای ابزارهای دیگر هوش مصنوعی روی مک می‌توانید به خبر ورود Teammates پرپلکسیتی به مک هم نگاه کنید.
منبع: 9to5Mac
