Dans le précédent article, nous avons présenté Minotaur, une architecture d'IA fondée sur ELC qui élabore ses réponses en mesurant plutôt qu'en prédisant. Nous l'avons montrée confrontant de véritables réglementations aux registres de leur application, identifiant quelle organisation avait enfreint une règle, de combien et où, et distinguant une règle transgressée d'une mesure mal enregistrée.
Les modèles de langage actuels sont admirés pour quelque chose de plus large : ils savent déduire, expliquer, diagnostiquer, peser une hypothèse, imaginer ce qui serait arrivé si les choses avaient été différentes, et changer d'avis lorsqu'on leur apporte une information nouvelle. Le cerveau de Minotaur, affirment ses auteurs, accomplit les principaux types de raisonnement généralement attribués aux grands modèles de langage, notamment la déduction, l'induction, l'abduction, le diagnostic et le raisonnement sur des histoires dans lesquelles poser une question modifie la réponse. Il le fait avec une seule opération sur un seul réseau, sur un cœur de processeur ordinaire, en environ un quart de seconde par question sur un système décrit.
Lors de tests en aveugle rédigés par des personnes n'ayant jamais vu son code, Minotaur a fait jeu égal avec un modèle de langage actuel raisonnant en mots, lors d'un interrogatoire de police où les questions modifient le souvenir du témoin, et sur des systèmes d'apprentissage, de diagnostic et de prédiction fondés uniquement sur leurs données. L'article oppose cette approche à la manière dont un grand modèle de langage est entraîné à prédire le mot suivant d'un texte, ce qui signifie qu'il hérite à la fois des forces et des faiblesses humaines, comme celle de se laisser influencer par des conclusions crédibles ou par la formulation d'une question.
L'article retrace aussi soixante-dix ans de tentatives antérieures de raisonnement automatique. Depuis le Logic Theorist d'Allen Newell, Cliff Shaw et Herbert Simon en 1956, ces efforts ont progressé jusqu'à un certain point avant de s'arrêter, ce que l'auteur utilise pour expliquer pourquoi les modèles de langage se sont imposés. Un raisonnement exact et vérifiable était l'objectif de la plupart des approches antérieures aux modèles de langage.
L'affirmation centrale est que Minotaur raisonne en travaillant sur la structure du système qu'il analyse, plutôt qu'en imitant la manière dont les humains consignent leur pensée par écrit.
Source: Hacker News · Résumé par HeadlinesBriefing