عملت ميتا مع آبل على تشغيل نموذجها الضخم للذكاء الاصطناعي Muse Spark Open على أجهزة Mac Studio بمعالج M5 Ultra، ما يتيح للمطورين تشغيل ذكاء اصطناعي متقدم محليًا بدلًا من الاعتماد على الخوادم السحابية. أُعلن عن Muse Spark Open في 15 أكتوبر، وهو نموذج ذكاء اصطناعي مفتوح الأوزان مصمم للبرمجة وهندسة البرمجيات والمهام التي تتطلب خطوات متعددة. طورت ميتا النموذج بـ 816 مليار معامل، إلا أن 42 مليار معامل فقط يكون نشطًا أثناء المعالجة.
يتطلب تشغيل النموذج جهازي Mac Studio على الأقل بمعالج M5 Ultra، بذاكرة موحدة سعة 512 غيغابايت لكل منهما، أو أربعة أجهزة بسعة 256 غيغابايت لكل منها، وذلك باستخدام العتاد الذي قُدِّم في التحديث الأخير لـ Mac Studio من آبل. تهيئة الأجهزة الأربعة متاحة الآن، أما خيار 512 غيغابايت من آبل فمن المتوقع ألا يُشحن قبل أواخر أكتوبر. يستفيد هذا التعاون من بنية الذاكرة الموحدة لدى آبل، التي تتيح لوحدة المعالجة المركزية ووحدة معالجة الرسومات الوصول إلى مجموعة الذاكرة نفسها. ومع ذلك، لا تكفي هذه السعة لتشغيل Muse Spark Open على جهاز واحد، إذ تشغل أوزان النموذج المضغوطة نحو 493 غيغابايت قبل احتساب الذاكرة الإضافية اللازمة للمعالجة.
يوزع إطار العمل مفتوح المصدر MLX عبء العمل على عدة أجهزة Mac، تتواصل فيما بينها عبر Thunderbolt 5 والوصول المباشر للذاكرة عن بُعد (RDMA). وفي اختبارات أداء أجرتها آبل، أنتجت أربعة أجهزة Mac Studio بمعالج M5 Ultra أكثر من 36 رمزًا في الثانية مع سياق يبلغ 8192 رمزًا. ويعتمد الأداء الفعلي على طبيعة العمل وطول السياق، لكن النتائج تشير إلى أن النموذج قادر على تقديم الردود بسرعة عملية.
أظهرت ميتا أن النموذج يتعامل مع عدة سير عمل معقدة اعتمادًا كليًا على العتاد المحلي. فباستخدام أداة التطوير Muse Code، عدّل النموذج تطبيق Ice Cubes، وهو عميل مفتوح المصدر لشبكة Mastodon على iOS، فأصلح الأخطاء وأضاف ميزات وأكمل عملية البناء. وأظهر عرض آخر أن Muse Spark Open يتحكم في برنامج Da Vinci Resolve لمراجعة لقطات الفيديو، وتحديد المقاطع المفيدة، وقصها إلى مقاطع عمودية. وتوضح هذه العروض إنجاز مهام محددة، لكنها لا تحدد مدى موثوقية النموذج في سير عمل أخرى.
المصدر: AppleInsider · لخّصه HeadlinesBriefing