Доказательства, генерируемые ИИ, часто проверяются с помощью процесса, называемого формализацией. OpenAI, кажется, допустил неочевидную ошибку, опубликовав свои доказательства задачи Навиер-Стокса, команда математиков заявила. Ошибка не означает, что доказательства неверны или что OpenAI не решил задачу корректно, но это вызывает вопросы о том, можно ли всегда доверять математическим результатам, генерируемым моделями ИИ.
"Что нужно сделать со всеми этими доказательствами, генерированными большими языковыми моделями, — их придется читать людям, — это создает огромную дополнительную нагрузку на математиков", — говорит Anders Hansen в University of Cambridge. 8 сентября OpenAI объявил, что нашел решение задачи Навиер-Стокса, одной из самых известных открытых проблем в математике. Опубликовал доказательство в двух версиях — на "естественном языке" и другой, написанной на компьютерном коде Lean.
Проблема, как говорит Хансен и его команда, в том, что два доказательства не совпадают. "Этот процесс формализации пытается заменить рецензирование", — говорит соавтор Fabian Circelli, также в University of Cambridge. "Рецензирование означало бы, что люди-эксперты смотрят на доказательства. Но мы показали в этой работе, что использование такого типа ИИ-автоматической формализации не может выполнять ту же функцию."
Специфическое утверждение команды базируется на частях доказательств, называемых Lemma 8.6. В доказательстве на естественном языке уравнение требует, чтобы значение было ниже m + 4, а в доказательстве Lean эквивалентное значение ниже m + 5, что математически слабее. OpenAI сказал New Scientist, что aware of the mismatch и что это не означает, что какое-либо из доказательств недействительно.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing