HeadlinesBriefing favicon HeadlinesBriefing.com

Décodeurs et décisions : la génération n'est pas la seule voie

Towards Data Science •
×

Tous les appels de modèle n'ont pas besoin de générer du texte. Le routage est souvent une petite décision cachée à l'intérieur d'un grand système agentique, pourtant de nombreux systèmes demandent à un modèle de langage décodeur de générer ce choix jeton par jeton. Un routeur décodeur n'est pas intrinsèquement mauvais. Il est utile lorsque la politique est ouverte ou que l'ensemble des routes change rapidement. Mais un ensemble de routes stable et fini crée un problème en forme de classification qui doit être mesuré comme tel.

L'opportunité pratique est une couche de décision : des routes candidates explicites, des scores typés, une politique de seuil ou d'abstention, et des branches logicielles déterministes. La nouveauté est une nouvelle primitive système, pas une redécouverte de la classification. Jev est un exemple public utile d'une interface de décision typée et probabiliste ; son architecture propriétaire et son objectif d'entraînement ne sont pas publics.

L'efficacité et la précision doivent être démontrées, pas supposées. Comparez le routage par décodeur, une ligne de base encodeur-plus-tête, et une implémentation de décision structurée sur les mêmes routes, données, politiques et métriques d'évaluation.

Le modèle mental dominant de l'IA moderne est génératif : fournir une invite, puis laisser un décodeur prédire le jeton suivant. C'est une capacité extraordinaire, mais ce n'est pas la seule forme utile d'intelligence machine. De nombreuses actions à l'intérieur d'un système agentique sont des questions opérationnelles limitées : Quel spécialiste devrait recevoir ce cas ? Les preuves sont-elles suffisantes pour procéder ? Le système devrait-il agir, escalader ou s'abstenir ?