مدل هوش مصنوعی Muse Spark Open متا معرفی شد؛ همکاری با اپل برای بهینه‌سازی روی مک استودیو

متا مدل هوش مصنوعی جدید Muse Spark Open را معرفی کرده و آن را «توانمندترین مدل وزن‌باز آمریکایی تا امروز» می‌داند. این مدل چندوجهی با مجموع ۸۱۶ میلیارد پارامتر، پنجره زمینه یک میلیون توکنی و تمرکز بر برنامه‌نویسی و ایجنت‌های هوش مصنوعی عرضه شده است. نکته جالب اینکه متا با همکاری اپل، این مدل را برای اجرا روی Mac Studio مجهز به تراشه M5 Ultra و فریم‌ورک MLX بهینه کرده است.

مدل هوش مصنوعی متا Muse Spark Open با ۸۱۶ میلیارد پارامتر

متا می‌گوید Muse Spark Open در حال حاضر توانمندترین مدل Open-Weight توسعه‌یافته در آمریکا است. این مدل به‌صورت بومی چندوجهی طراحی شده و در مجموع ۸۱۶ میلیارد پارامتر دارد، اما تنها ۴۲ میلیارد پارامتر آن فعال هستند.

پنجره زمینه این مدل نیز به یک میلیون توکن می‌رسد. متا Muse Spark Open را به‌طور خاص برای برنامه‌نویسی و کارهای ایجنت‌محور توسعه داده و می‌گوید این مدل در انجام وظایف طولانی‌مدت، مهندسی نرم‌افزار پیچیده و استدلال چندمرحله‌ای عملکرد قدرتمندی دارد.

ایجنت‌های هوش مصنوعی قدرتمند مستقیماً روی دسکتاپ اجرا می‌شوند

یکی از اهداف اصلی Muse Spark Open، فراهم کردن امکان اجرای محلی ایجنت‌های هوش مصنوعی پیشرفته است. متا می‌گوید مدل جدید قابلیت‌های ایجنت‌محور پیشرفته را برای نخستین بار مستقیماً به کامپیوتر دسکتاپ می‌آورد.

ماهیت چندوجهی مدل نیز به آن اجازه می‌دهد با انواع مختلف داده کار کند و در وظایف پیچیده‌ای که نیازمند چندین مرحله پردازش و تصمیم‌گیری هستند، مورد استفاده قرار گیرد.

بنچمارک مدل هوش مصنوعی Muse Spark Open متا

فریم‌ورک MLX اپل به اجرای Muse Spark Open کمک می‌کند

یکی از نکات مهم معرفی Muse Spark Open، همکاری متا با اپل برای بهینه‌سازی اجرای این مدل روی سخت‌افزارهای Mac است.

متا برای این منظور از جدیدترین نسخه MLX استفاده کرده است؛ فریم‌ورک آرایه‌ای متن‌بازی که توسط اپل توسعه یافته و برای معماری حافظه یکپارچه تراشه‌های Apple Silicon بهینه شده است.

براساس اعلام متا، Muse Spark Open با استفاده از جدیدترین نسخه MLX برای Mac Studio مجهز به M5 Ultra بهینه شده است. متا ترکیب این سخت‌افزار و نرم‌افزار را بهترین راه برای اجرای یک مدل قدرتمند هوش مصنوعی روی کامپیوتر شخصی توصیف می‌کند.

فریم‌ورک MLX اپل

دو Mac Studio می‌توانند کل مدل ۸۱۶ میلیارد پارامتری را اجرا کنند

معماری حافظه یکپارچه اپل نقش مهمی در امکان اجرای محلی چنین مدل بزرگی دارد. پردازنده گرافیکی یکپارچه تراشه M5 Ultra می‌تواند در هر Mac Studio به حداکثر ۵۱۲ گیگابایت حافظه یکپارچه دسترسی داشته باشد.

به این ترتیب، دو دستگاه Mac Studio می‌توانند کل مدل Muse Spark Open را در حافظه نگه دارند. مجموع حافظه یکپارچه این دو سیستم به حدود یک ترابایت می‌رسد.

تراشه M5 Ultra همچنین پهنای باند حافظه ۱٫۲ ترابایت‌برثانیه را ارائه می‌دهد. متا می‌گوید این سرعت برای خواندن بخش کوچکی از مدل که برای پردازش هر توکن مورد نیاز است، کافی خواهد بود.

به تعبیر متا، دو Mac Studio در چنین پیکربندی‌ای می‌توانند مانند یک ابرکامپیوتر واحد با حدود یک ترابایت حافظه یکپارچه عمل کنند.

مدل Muse Spark Open تغییرات واقعی یک اپلیکیشن iOS را انجام داد

متا مجموعه‌ای از فرایندهای ایجنت‌محور را با اجرای کاملاً محلی Muse Spark Open آزمایش کرده است. این آزمایش‌ها با استفاده از Muse Code مبتنی بر مدل جدید انجام شده‌اند.

یکی از نمونه‌ها مربوط به Ice Cubes، کلاینت متن‌باز Mastodon برای iOS بود. مدل توانست روی تغییرات واقعی این برنامه کار کند و وظایفی مانند برطرف کردن باگ‌ها، اضافه کردن قابلیت‌های جدید و انجام فرایند کامل Build را انجام دهد.

کنترل DaVinci Resolve با ایجنت هوش مصنوعی متا

آزمایش دیگر متا به نرم‌افزار DaVinci Resolve مربوط می‌شود. در این آزمایش، ایجنت هوش مصنوعی توانست فرایند کار با نرم‌افزار را از ابتدا تا انتها انجام دهد.

Muse Spark Open ویدئو را فریم‌به‌فریم بررسی کرد تا بهترین لحظات را شناسایی کند و سپس آن‌ها را برای استفاده در قالب عمودی برش دهد.

متا از این نمونه‌ها برای نشان دادن توانایی مدل در انجام وظایف طولانی و چندمرحله‌ای روی دستگاه، بدون نیاز به اجرای مدل در زیرساخت ابری، استفاده کرده است.

اپل روی اجرای خصوصی مدل‌های هوش مصنوعی در Mac تأکید دارد

هم‌زمان با معرفی مدل جدید متا، اپل نیز مطلب تازه‌ای در وب‌سایت تحقیقات یادگیری ماشین خود منتشر کرده و به قابلیت‌های MLX برای اجرای توزیع‌شده مدل‌های هوش مصنوعی پرداخته است.

اپل می‌گوید MLX روی Mac به پژوهشگران و توسعه‌دهندگان هوش مصنوعی اجازه می‌دهد جدیدترین مدل‌ها و روش‌ها را به‌صورت محلی و در یک محیط خصوصی آزمایش کنند.

همکاری اپل و متا پس از سال‌ها اختلاف

همکاری اپل و متا در زمینه Muse Spark Open از آن جهت قابل‌توجه است که روابط این دو شرکت در سال‌های گذشته چندان گرم نبوده است.

الکساندر وانگ، مدیر هوش مصنوعی متا، در مصاحبه‌ای اعلام کرده که اپل و متا چند ماه است با یکدیگر همکاری می‌کنند. او همچنین دنیل گراس، مدیر سابق اپل، را یکی از افرادی دانسته که نقش مهمی در شکل‌گیری همکاری بهتر میان دو شرکت داشته است.

وانگ با لحنی شوخ‌طبعانه درباره بهبود روابط دو شرکت گفت که آن‌ها از اینکه «مامان و بابا دوباره با هم خوب رفتار می‌کنند» هیجان‌زده هستند.

وزن‌های Muse Spark Open در Hugging Face منتشر شدند

متا وزن‌های Muse Spark Open را منتشر کرده و این مدل هم‌اکنون از طریق Hugging Face در دسترس قرار دارد.

انتشار وزن‌ها در کنار امکان اجرای مدل روی سخت‌افزار محلی، به توسعه‌دهندگان اجازه می‌دهد به‌جای وابستگی کامل به سرویس‌های ابری، قابلیت‌های مدل را مستقیماً روی زیرساخت خود آزمایش کنند.

جمع‌بندی

مدل Muse Spark Open با ۸۱۶ میلیارد پارامتر، ۴۲ میلیارد پارامتر فعال و پنجره زمینه یک میلیون توکنی، جدیدترین تلاش متا برای توسعه مدل‌های Open-Weight قدرتمند با تمرکز بر برنامه‌نویسی و عامل‌های هوش مصنوعی است. همکاری با اپل و استفاده از MLX نیز امکان اجرای کامل این مدل روی دو Mac Studio مجهز به M5 Ultra را فراهم کرده است. آزمایش‌هایی مانند توسعه یک اپلیکیشن iOS و کنترل DaVinci Resolve نشان می‌دهند که متا به‌طور خاص روی اجرای محلی وظایف پیچیده و طولانی‌مدت تمرکز دارد.

به نظر شما امکان اجرای مدل ۸۱۶ میلیارد پارامتری Muse Spark Open روی دو Mac Studio می‌تواند استفاده محلی از مدل‌های بسیار بزرگ هوش مصنوعی را به گزینه‌ای جدی برای توسعه‌دهندگان تبدیل کند؟