HeadlinesBriefing favicon HeadlinesBriefing.com

GLM-5.3-Flash نموذج قرار Jev

Hacker News •
×

24 سبتمبر 2026 قرارات مكتوبة مع احتمال لكل خيار، في مرور واحد: مطابقة دقة وسرعة Jev مع LLM. ماركو روزيمولر، دكتوراه فنون، قائد فني AITL؛ DR: في هذا المقال، نوضح كيف يمكن لـ LLM جاهز أن ي Marijuana قرارات مكتوبة في مرور واحد. يMade هذا ممكناً تحويل LLM إلى نموذج قرار يشبه Jev. قمنا بتقييم النهج باستخدام GLM-5.3-Flash Stars على Privatemode. باستخدام معيار مconstructed من البيانات العامة، نوضح أن هذا الت_config ي delivering نتائج على par مع Jev من Type Safe من حيث دقة/صحة القرارات والسرعة. كهدية، الت_config مع GLM-5.3-Flash يمكّنقرارات مكتوبة على الصور، وهو ما غير ممكن مع Jev. كيف работает Playground Benchmark ليه قرارات مكتوبة كثيwhat Software يطلب من LLM هو قرار. "Which فريق يجب أن يتعامل مع هذا التذكرة؟"، أو "هل تdoes هذا البند العقد ينتمي إلى قسم المسؤولية؟". في هذه الحالات، Software يتطلب عادة أن ي/response LLM يalus شكل معين مثل JSON وأن comes من مجموعته مسبقاً مثل "yes" و "no". Given ال.right instructions، LLMs can typically already fulfill this reliably. However، في basic approach، speed و costs يصبحان مشكلة: For each decision، LLM needs to write كله JSON object، و reasoning model قد يthink لـ hundreds of tokens before that.

Further، أنت also don't learn confidence of the model (unless you explicitly ask it). All these aspects can matter lot في practice و have so far prevented people from employing LLMs for decision making في high-volume/high-throughput scenarios. Specialized decision models (or "System One" models) like Jev and Laya are designed to address this.

You pass in a piece of state و a set of named options، و you get back the chosen option مع confidence value (i.e., probability) for each one. Turning an LLM into a decision model Initially، we asked ourselves if an LLM could be turned into a decision model with Jev-like properties. The short answer is: "yes".

In the following، we show how it works. To understand our approach، it's important to understand how LLMs work: An LLM never writes text directly. Given a prompt، an LLM outputs a probability distribution over its entire vocabulary of tokens. في text generation، في simplest case، token with highest probability is selected as the next token.

The selected token then is appended to the prompt و the whole process repeats. As described above، this is costly and slow if you just want to set a few fields في JSON object. Our core insight is that it's unnecessary to have the LLM predict the whole JSON object، as we already know its shape.

We're only interested in the LLM's typed judgement for a given input. We realized that it's possible to craft prompts so that we get the typed judgement in a single run of the LLM — with no fine-tuning، on the model exactly as it ships. This is the difference to Jev and Laya، which are models trained for the purpose.

The basic steps are as follows: Number the options. The state، the question، and the output options go into the prompt as JSON، with an index on every option. The instruction asks the model to an...