HeadlinesBriefing favicon HeadlinesBriefing.com

Jev : Nouveau modèle frontière 40-400x moins cher, 20-200x plus rapide

Hacker News •
×

Diogo Almeida, fondateur de Type Safe AI, a annoncé Jev, un nouveau System One Model qui atteint une intelligence similaire aux LLM existants sur des tâches structurées tout en étant 40-400x moins cher et 20-200x plus rapide. Après deux ans en mode furtif, Type Safe AI a construit une nouvelle pile avec une architecture novatrice, un échantillonneur parallèle et un Apprentissage par Renforcement pour Décisions Calibrées (RLCD).

Jev est optimisé pour les sorties structurées et ne peut pas halluciner. Il prend un état non structuré et renvoie des décisions probabilistes typées. Contrairement aux LLM qui génèrent des chaînes séquentiellement et nécessitent un parsing, Jev génère toutes les sorties en une seule requête avec des probabilités calibrées.

Coût : tokens d'entrée à $0.042 par MTok ($42 par milliard), tokens de sortie gratuits. Vitesse : temps de réponse de bout en bout 70ms-500ms contre 3-329 secondes pour les modèles frontières. La confiance est toujours communiquée, ce qui rend Jev adapté à l'automatisation où la supervision humaine est impraticable.

Jev est disponible aujourd'hui en accès anticipé.

Entités clés : Entreprises : Type Safe AI, OpenAI | Personnes : Diogo Almeida

FAQ : Qu'est-ce qui différencie Jev des LLM existants ?

Jev est optimisé pour les sorties structurées, ne peut pas halluciner, fonctionne 40-400x moins cher et 20-200x plus rapide, et fournit des scores de confiance calibrés.

FAQ Q : Qu'est-ce qui différencie Jev des LLM existants ?

FAQ A : Jev est optimisé pour les sorties structurées, ne peut pas halluciner, fonctionne 40-400x moins cher et 20-200x plus rapide, et fournit des scores de confiance calibrés.