In den letzten Wochen gab es viel Aufsehen um Entscheidungsmodelle wie das Jev System One Modell von Typesafe AI. Heute veröffentlichen wir zwei von Cloudflare trainierte Entscheidungsmodelle, Clef und Clef-flash, gehostet auf Workers AI. Clef ist derzeit der Spitzenreiter, wenn es gegen den Jev Decision Index bewertet wird. Diese Modelle sind intelligenter, schneller und vollständig Jev-API-kompatibel. Wir machen diese Modelle auf Hugging Face unter einer Apache-2.0-Lizenz vollständig Open Source. Schließlich freuen wir uns, unser neues Reinforcement-Learning-Produkt (RL) vorzustellen, mit dem Kunden Clef für ihre Anwendungsfälle feinabstimmen können.
Ein Entscheidungsmodell führt Klassifizierungen durch, um Agenten zu helfen, zu entscheiden, wie sie handeln sollen, basierend auf bestimmten Wahrscheinlichkeiten. Zum Beispiel können Sie eine Kundendienstnachricht übergeben und fragen, ob sie dringend ist und welches Team sie bearbeiten soll. Ein Entscheidungsmodell gibt typisierte Antworten mit Wahrscheinlichkeiten zurück, die Ihr Code verwenden kann, um das Ticket zu routen, eine Eskalation auszulösen oder an einen Menschen zu verweisen.
Bei Cloudflare haben wir Clef in unserem Threat-Intelligence-Team getestet, um Website-Domains zu klassifizieren. Diese Klassifizierung dauerte 2,2 s, um die Website abzurufen, zu rendern und zu klassifizieren. Im Gegensatz dazu benötigte unser schnellstes allgemeines LLM gpt-oss-120b 4,7 s im selben Workflow. Clef verfügt über einen Vision-Encoder, ein 64k-Kontextfenster und schneidet im Vergleich zu anderen Entscheidungsmodellen wettbewerbsfähig ab.
Quelle: Hacker News · Zusammengefasst von HeadlinesBriefing