HeadlinesBriefing favicon HeadlinesBriefing.com

Модели ИИ Проваливаются в Тестах Интеллекта

MIT Technology Review AI •
×

Пазлы и игры были центральными в развитии ИИ с самого начала. Так же, как мы любим проверять свою интеллектуальность кроссвордами или логическими головоломками, разработчики могут тестировать прогресс моделей с помощью игрового челленджа. Термин "машинное обучение" был популяризирован в статье 1959 года IBM-компьютерного учёного Артура Самюэля, который описал алгоритм, способный научиться играть в шашки. Шашки и знаменитая китайская настольная игра Го также являются известными тестовыми площадками для ИИ.

Что касается способности решать головоломки, ИИ значительно продвинулся и быстро. В конце 2024 года команда учёных из Колумбийского университета показала, что даже лучшие модели смогли решить лишь 18% знаменитых головоломок Connections The New York Times; к началу 2025 года некоторые модели смогли решать их почти без ошибок каждый раз. Но головоломки идут далеко за рамки простого подчёркивания неизбежного прогресса возможностей ИИ.

Современные модели всё ещё падают: незначительные изменения в классических загадках часто их сбивают с толку, а визуальные головоломки — особая слабость. Здесь у вас есть возможность проверить свои способности на головоломках, которые когда‑то заставляли модели ошибаться. Каждая из них подчёркивает как минимум один способ, в котором когнитивные процессы машины отличаются от когнитивных процессов человека.

Пространственное рассуждение остаётся областью, где у людей есть значительное преимущество. Когда головоломка просит определить, представляют ли разные изображения один и тот же объект с разных ракурсов, несмотря на то, что современные языковые модели обычно способны анализировать визуальные входные данные, они всё ещё ужасно плохо справляются с такими головоломками. Несмотря на все разговоры о том, как модели «мировой модели» помогут ИИ понять физические среды, LLM всё ещё не могут манипулировать объектами в 3D так, как это делают пространственные мыслители — архитекторы и механические инженеры.

Ключевые сущности: Компании: IBM | Люди: Vincent Kilbride, Arthur Samuel | Места: Колумбийский университет, New York Times, Google, Университет Иллинойс Урбана‑Чампейн