Au cours des dernières semaines, il y a eu beaucoup de buzz autour des modèles de décision comme le modèle Jev System One de Typesafe AI. Aujourd'hui, nous publions deux modèles de décision entraînés par Cloudflare, Clef et Clef-flash, hébergés sur Workers AI. Clef est actuellement le leader lorsqu'il est évalué contre l'indice de décision Jev. Ces modèles sont plus intelligents, plus rapides et entièrement compatibles avec l'API Jev. Nous open-sourçons entièrement ces modèles sur Hugging Face sous une licence Apache 2.0. Enfin, nous sommes ravis de dévoiler notre nouveau produit d'apprentissage par renforcement (RL), qui permet aux clients d'affiner Clef pour leurs cas d'utilisation.
Un modèle de décision effectue des classifications pour aider les agents à décider comment agir, en fonction de certaines probabilités. Par exemple, vous pouvez passer un message de support client et demander s'il est urgent et quelle équipe doit le traiter. Un modèle de décision renverra des réponses typées avec des probabilités, que votre code peut utiliser pour router le ticket, déclencher une escalade ou différer à un humain.
Chez Cloudflare, nous avons testé Clef sur notre équipe de renseignement sur les menaces pour classer les domaines de sites Web. Cette classification a pris 2,2 s pour récupérer, rendre et classer le site Web. En revanche, notre LLM général le plus rapide, gpt-oss-120b, a pris 4,7 s dans le même flux de travail. Clef dispose d'un encodeur de vision, d'une fenêtre de contexte de 64k et obtient des scores compétitifs par rapport aux autres modèles de décision.
Source: Hacker News · Résumé par HeadlinesBriefing