В предыдущей публикации мы представили Minotaur — архитектуру ИИ на основе ELC, которая получает ответы измерением, а не предсказанием. Мы показали, как она сверяла реальные нормативы с записями об их применении, определяя, какая организация нарушила правило, насколько и где, и отличала нарушенное правило от неверно записанного измерения.
Сегодняшние языковые модели вызывают восхищение благодаря более широким возможностям: они умеют делать выводы, объяснять, ставить диагнозы, взвешивать гипотезу, представлять, что произошло бы, если бы всё было иначе, и менять мнение, получив новые сведения. По мнению авторов, мозг Minotaur выполняет основные виды рассуждений, которые обычно приписывают большим языковым моделям, включая дедукцию, индукцию, абдукцию, диагностику и рассуждения об историях, в которых сам вопрос меняет ответ. Всё это он делает одной операцией над одной сетью, на обычном ядре процессора, примерно за четверть секунды на вопрос в описанной системе.
В слепых тестах, составленных людьми, которые никогда не видели его кода, Minotaur не уступил современной языковой модели, рассуждающей словами, в полицейском допросе, где вопросы меняют память свидетеля, а также в системах обучения, диагностики и прогнозирования, работающих только на своих данных. Публикация противопоставляет это тому, как большая языковая модель обучается предсказывать следующее слово текста, а значит, наследует и человеческие сильные стороны, и слабости, например склонность поддаваться правдоподобным выводам и формулировке вопроса.
Автор также рассматривает семидесятилетнюю историю более ранних попыток машинного рассуждения. Начиная с Logic Theorist Аллена Ньюэлла, Клиффа Шоу и Герберта Саймона в 1956 году, эти усилия продвигались до определённой точки и затем останавливались, и именно этим автор объясняет, почему языковые модели стали доминирующими. Точное, поддающееся проверке рассуждение было целью большинства подходов, существовавших до языковых моделей.
Ключевой тезис состоит в том, что Minotaur рассуждает, работая со структурой системы, о которой он рассуждает, а не подражая тому, как люди записывают свои мысли.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing