En la entrada anterior presentamos Minotaur, una arquitectura de IA basada en ELC que calcula sus respuestas midiendo en lugar de predecir. Mostramos cómo comparaba normativas reales con registros de su aplicación, cómo descubría qué organización había incumplido una regla, en qué medida y dónde, y cómo distinguía una regla incumplida de una medición mal registrada.
Los modelos de lenguaje actuales son admirados por algo más amplio: pueden deducir, explicar, diagnosticar, sopesar una hipótesis, imaginar qué habría pasado si las cosas hubieran sido distintas y cambiar de opinión cuando se les aporta algo nuevo. El cerebro de Minotaur, según sostienen sus autores, realiza los principales tipos de razonamiento que normalmente se atribuyen a los grandes modelos de lenguaje, entre ellos la deducción, la inducción, la abducción, el diagnóstico y el razonamiento sobre historias en las que hacer una pregunta cambia la respuesta. Lo hace todo con una sola operación sobre una sola red, en un núcleo de procesador ordinario, en unos 0,25 segundos por pregunta en un sistema descrito.
En pruebas ciegas redactadas por personas que nunca vieron su código, Minotaur igualó a un modelo de lenguaje actual que razona con palabras, en una entrevista policial donde las preguntas alteran la memoria del testigo, y en sistemas de aprendizaje, diagnóstico y predicción basados únicamente en sus datos. La entrada contrasta esto con la forma en que un gran modelo de lenguaje se entrena para predecir la siguiente palabra de un texto, lo que significa que hereda tanto las fortalezas como las debilidades humanas, como dejarse llevar por conclusiones creíbles o por el planteamiento de una pregunta.
La entrada también repasa setenta años de intentos anteriores de razonamiento automático. Desde el Logic Theorist de Allen Newell, Cliff Shaw y Herbert Simon en 1956, estos esfuerzos avanzaron hasta cierto punto y luego se detuvieron, lo que el autor utiliza para explicar por qué los modelos de lenguaje se impusieron. El razonamiento exacto y verificable era el objetivo de la mayoría de los enfoques previos a los modelos de lenguaje.
La afirmación central es que Minotaur razona trabajando sobre la estructura del sistema que analiza, en lugar de imitar la forma en que las personas escriben sus pensamientos.
Fuente: Hacker News · Resumido por HeadlinesBriefing