HeadlinesBriefing favicon HeadlinesBriefing.com

ARGODRIVE Deltafin: Kimi K3 2.8T MoE على Apple Silicon

Hacker News •
×

ARGODRIVE Deltafin يشغل Kimi K3 الكامل (MoE بمعلمات 2.8T، 1.45 تيرابايت من الخبراء) على MacBook Pro M5 Max بسعة 128 جيجابايت، مع بث الخبراء من أربعة أقراص SSD. يحقق 1.00 رمز/ثانية فك ترميز ثابت عبر إجابة من 512 رمزًا، و1.13 عبر 128 رمزًا، و0.96 على موجه من 17 رمزًا (المنبع: 0.68). الحد الصادق: موجه من 512 رمزًا يستغرق ~6.3 دقيقة للرمز الأول. السبب وجد: مرحلة ما قبل الملء تعيد قراءة خبراء كل طبقة 8 مرات؛ الإصلاح مخطط له ولكن لم يُبنَ بعد. نتائج مفيدة: محرك واحد يعطي ~52% من سرعة أربعة محركات، واثنان ~73%، وثلاثة ~90% — أبطأ محرك في القراءات الـ16 لكل طبقة يحدد الوتيرة، وليس إجمالي النطاق الترددي. كل رقم هو تشغيل بارد واحد مع الموجه الدقيق؛ سجلات كل تشغيل وبيانات التنسيب موجودة في k3-public-bench/. هذا الفرع من gavamedia/deltafin (MIT) يتضمن المحرك (انظر CREDITS.md) وأدوات القياس. القياسات في 2026-09-08 مع تكوين السجل لهذا الفرع (k3-public-bench/env.sh). النتائج: 0.9232 رمز/ثانية فك ترميز ثابت (512 رمزًا)، 1.0015 رمز/ثانية (128 رمزًا)، 0.92611 رمز/ثانية (موجه من 17 رمزًا، متوسط 3؛ المنبع 0.684). الوقت حتى الرمز الأول: ~376 ثانية لموجه من 512 رمزًا. سلم عدد المحركات: محرك واحد ~52% من سرعة أربعة، واثنان ~73%، وثلاثة ~90% (results/SCALING.md). لماذا مرحلة ما قبل الملء بطيئة والإصلاحات: results/PREFILL.md. التعريفات، نطاق الهوية، الدقة: k3-public-bench/README.md. شغّل Kimi K3 الكامل، غير المقتطع أبدًا، على أجهزة المستهلك، بأسرع ما يمكن. Deltafin هو ملف ثنائي أصلي واحد، لا شيء مقتطع أو محذوف. K3 يقرر كل رمز، جميع الخبراء الـ16، دون اختصارات. قاعدة الجودة: K3 يقرر بنفسه، لا نماذج مسودة صغيرة. معايير المنبع على كمبيوتر محمول M1 Max (gavamedia/deltafin، دون تغيير) تظهر 0.2901 رمز/ثانية (3.447 ثانية/رمز) — إنتاجية أعلى بنسبة 1.9% من آخر تحديث. معايير M1 التاريخية: 0.2847 رمز/ثانية (2 أغسطس 2026)، 0.2660 رمز/ثانية (30 يوليو 2026)، 0.1311 رمز/ثانية (28 يوليو 2026)، 0.0141 رمز/ثانية (27 يوليو 2026). المهمة: جودة K3 نقية وغير مقطوعة، سرعة دون تقليل جودة النموذج. يحتفظ Deltafin بجميع الخبراء الـ16 الموجهين وهدف K3 الكامل كسلطة وحيدة لكل رمز. الهدف: استخراج كل كفاءة عند تشغيل نموذج ضخم مثل K3، جميع الخيارات على الطاولة باستثناء تقليل الجودة. هذا ليس عرضًا لمنتج بل تجربة لدفع أجهزة المستهلك والتعلم من المحاولة. يستهدف Kimi K3 بنية تحتية على نطاق 16 عقدة مع ~4.8 تيرابايت من VRAM الإجمالي. تشغيله على MacBook واحد قيد شديد، وكل تحسن بنسبة 1% مكتسب بصعوبة. كل مكسب يعلم شيئًا؛ البحث والاستكشاف هو الهدف. ليس كل شيء يجب أن يكون منتجًا أدنى قابلًا للتطبيق لإبهار المستثمرين. إذا ساعد Deltafin في جعل النماذج الحدودية قابلة للاستخدام على إعداد منزلي بقيمة 15,000 دولار بدلاً من بنية تحتية بقيمة 2,000,000 دولار، فهذا تقدم قيم للذكاء الاصطناعي المستضاف ذاتيًا. بالإضافة إلى ذلك، كل ما تم تعلمه يمكن أن يفيد...