No post anterior apresentamos o Minotaur, uma arquitetura de IA baseada em ELC que chega às suas respostas medindo em vez de prever. Mostramos como ele confrontava regulamentos reais com registros de sua aplicação, descobrindo qual organização havia violado uma regra, em que medida e onde, e distinguindo uma regra quebrada de uma medição mal registrada.
Os modelos de linguagem atuais são admirados por algo mais amplo: eles conseguem deduzir, explicar, diagnosticar, avaliar uma hipótese, imaginar o que teria acontecido se as coisas fossem diferentes e mudar de opinião quando recebem uma informação nova. O cérebro do Minotaur, argumentam os autores, realiza os principais tipos de raciocínio normalmente atribuídos aos grandes modelos de linguagem, incluindo dedução, indução, abdução, diagnóstico e raciocínio sobre histórias em que fazer uma pergunta muda a resposta. Ele faz tudo isso com uma operação sobre uma rede, em um núcleo de processador comum, em cerca de um quarto de segundo por pergunta no sistema descrito.
Em testes cegos elaborados por pessoas que nunca viram seu código, o Minotaur igualou um modelo de linguagem atual que raciocina em palavras, em um interrogatório policial em que as perguntas alteram a memória da testemunha, e em sistemas de aprendizado, diagnóstico e previsão baseados apenas em seus dados. O post contrasta isso com a forma como um grande modelo de linguagem é treinado para prever a próxima palavra de um texto, o que significa que ele herda tanto as forças quanto as fraquezas humanas, como deixar-se levar por conclusões convincentes ou pela formulação de uma pergunta.
O post também percorre setenta anos de tentativas anteriores de raciocínio mecânico. Desde o Logic Theorist, de Allen Newell, Cliff Shaw e Herbert Simon, em 1956, esses esforços avançaram até certo ponto e depois pararam, o que o autor usa para explicar por que os modelos de linguagem se tornaram dominantes. O raciocínio exato e verificável era o objetivo da maioria das abordagens anteriores aos modelos de linguagem.
A afirmação central é que o Minotaur raciocina trabalhando sobre a estrutura do sistema que analisa, em vez de imitar a maneira como as pessoas registram seus pensamentos por escrito.
Fonte: Hacker News · Resumido por HeadlinesBriefing