HeadlinesBriefing favicon HeadlinesBriefing.com

Experiential تطلق بوابة نماذج ذكاء اصطناعي مفتوحة المصدر على GitHub

Hacker News •
×

أصدرت Experiential Labs بوابة نماذج مفتوحة المصدر على GitHub توفر مستوى تحكم موحد للنماذج المغلقة، مفتوحة المصدر، المحلية، والمخصصة. تم بناؤها بلغة Rust للتزامن، وتوحد تنسيقات التدفق، استدعاءات الأدوات، معلمات النماذج، حدود المعدل، وسلوك الأخطاء عبر المزودين.

تدعم البوابة كل مزود استدلال رئيسي و أكثر من 1000 نموذج يتم تحديثها يومياً عبر وكيل codex يفتح طلبات سحب. تضيف أقل من 1 ميلي ثانية لطلبات BYOK وأقل من 2 ميلي ثانية عندما توفر Experiential مفتاح المزود. يمكن للمستخدمين نشرها على البنية التحتية الخاصة بهم أو استخدام النسخة المستضافة على platform.experientiallabs.ai بدون أي ترميز.

على عكس المنافسين، Experiential مفتوحة المصدر، لا تفرض ترميزاً، تسمح بخلط النماذج المحلية مع سوق، ويمكنها تدريب نموذج مخصص من حركة مرور الإنتاج التي تم الاشتراك فيها. تستخدم قرارات التتبع آثار OTel موحدة، ومحاكاة عبر نماذج عالم نصي، وقاضي LLM، وم 분류 أقرب جار على تضمينات المطالبات. يمكن لهذا النهج تقديم منحنى Pareto تكلفة/جودة أفضل من استدعاء نموذج واحد، مع تمكين تحسين اصطدام الكاش واقتراح نماذج جديدة.

تخدم المنصة المستضافة كلاً من API متوافق مع OpenAI و API رسائل Anthropic على https://api.experientiallabs.ai/v1، مع مطالبات انضمام تدعم Claude Code، Cursor، Codex، Aider، ووكلاء ترميز مشابهين.

الكيانات الرئيسية: الشركات: Experiential Labs، GitHub، OpenAI، Anthropic، Gemini، Azure، Bedrock، Fireworks، Open Router