HeadlinesBriefing favicon HeadlinesBriefing.com

غلاف LLM يشبه Jev مع دعم نماذج الرؤية

Hacker News •
×

مطور اكتشاف Jev ومستضيدين مثل Open Jev و Sem If، التي تستخدم حيلًا قديمة: قراءة احتمالات رموز LLM. يشمل الطريقة صياغة تعليمات ب prompts مع حالات وأسئلة متعددة الخيارات، ثم إرسال طلبات Chat Completions مع معلمات مثل {"max_completion_tokens": 1, "logprobs": true, "top_logprobs": 20} للحصول على إجابة رمز واحد مع احتمالات بديلة. هذا النهج يعمل مع نماذج الرؤية أيضًا. قام الكاتب بتوسيع صيغة Jev النصية/JSON بإضافة حقل attachments للصور في التجارب المحلية. مثال Python له يلتقط إطارات الكاميرا، يرسل صور JPEG م Encode base64، ويقييم رؤية الأشخاص، والبيئة الداخلية/الخارجية، والسطوع. باستخدام Gemma 4 12B على RTX 3090، حققوا ~إطار واحد في الثانية مع three أسئلة لكل إطار. gpt-6-luna من Open AI بلغ ~0.2 FPS بسبب اتصالات منفصلة. المرونة تسمح بتغيير الظروف عبر وصفات نصية بسيطة بدلًا من نماذج CV متخصصة.