HeadlinesBriefing favicon HeadlinesBriefing.com

Type Safe AI lance Jev : modèle de décision à 0,042 $/M tokens

Hacker News •
×

La semaine dernière, Type Safe AI a dévoilé Jev, leur premier exemple d'une nouvelle catégorie de modèle qu'ils appellent 'modèles System One'—également connus sous le nom de 'modèles de décision'. Jev est une variante de LLM qui accepte des entrées textuelles mais renvoie des nombres à virgule flottante pour les catégories, les questions oui/non, les notes et les scores de confiance. Type Safe décrit Jev comme un 'appel de fonction d'intelligence de pointe : état non structuré en entrée, décisions probabilistes typées en sortie'.

Il est rapide et peu coûteux, ne facturant que 0,042 $ par million de tokens d'entrée—moins cher que GPT-5 Nano d'OpenAI à 0,05 $/million. Jev permet aux utilisateurs de poser des questions sur du texte ou des données semi-structurées en composant un objet d'état et en l'envoyant à leur API avec plusieurs questions évaluées en parallèle. Le modèle prend en charge trois types de questions : Noul (scores de confiance oui/non 0-1), questions à choix avec distributions de probabilités, et questions de notation avec plages numériques.

Cette approche est excellente pour les tâches de classification comme la détection de spam, l'étiquetage et le réordonnancement de recherche. Cependant, Jev représente une régression vers des systèmes boîte noire—il ne fournit aucune explication pour les décisions, soulevant des préoccupations quant aux biais cachés, particulièrement dans des applications sensibles comme le recrutement. Une évaluation approfondie est cruciale compte tenu de l'opacité du modèle.