HeadlinesBriefing favicon HeadlinesBriefing.com

لايا: محرك قرار متعدد اللغات مفتوح المصدر بـ 33 مللي ثانية

Hacker News •
×

يصف المؤلف تطوير لايا، محرك قرار نظام 1 متعدد اللغات يحقق زمن استجابة 32.8 مللي ثانية على وحدة معالجة رسومات واحدة، ويضعه كبديل أسرع ومفتوح المصدر للنماذج الخاصة مثل Jev من Type Safe AI. يدعي المؤلف وجود فنون سابقة تعود إلى مارس 2025 (arXiv:2503.23303)، بما في ذلك النماذج على Hugging Face، ومجموعات البيانات، وحزمة PyPI، تسبق إطلاق Type Safe AI في سبتمبر 2026. أسسه ديوغو ألميدا، مخترع مشارك لـ ChatGPT في OpenAI، وأطلقت Type Safe AI RLCD (تعلم التعزيز للقرارات الم calibrated) بسعر 0.042 دولار لكل مليون رمز مع زمن استجابة 150 مللي ثانية.

تعالج لايا عائق استخدام نماذج اللغة الكبيرة التوليدية للمهام البسيطة للتصنيف (التوجيه، كشف البريد العشوائي، تقييم العجلة)، والتي تضيف زمن استجابة (500–2000 مللي ثانية)، وتكلفة، وخطر الوهم. بدلاً من ذلك، تستخدم لايا ترميزات ثنائية الاتجاه لتوليد احتمالات م calibrated فورية عبر ثلاث بدائل أولية: choice (الاختيار الفئوي)، score (وضع المعيار الترتيبي)، وnoul (الكشف عن الصفر/الامتناع).

تدعم عائلة النموذج أكثر من 100 لغة، وتعمل عند 7.2 مللي ثانية/سؤال بالدفعة، ولا تتطلب اشتراكًا في واجهة برمجة التطبيقات، وتصدر الأوزان تحت ترخيص Apache 2.0. يقدم المؤلف لايا كخاتمة لتصحيح القيود المعمارية في العمل السابق، الانتقال من مسارات المبيعات العمودية إلى قرارات مخطط عام أفقي.

الكيانات الرئيسية: الشركات: Type Safe AI, OpenAI, Hugging Face | الأشخاص: Diogo Almeida