Автоформализация все чаще используется для проверки математических текстов, включая те, которые генерируются ИИ, как в объявленном Open AI доказательстве взрыва решений уравнений Навье-Стокса. В этом процессе система ИИ переводит текст с естественного языка на формальный язык, такой как Lean. После завершения этого перевода аргумент, выраженный на формальном языке, может быть легко механически проверен. Цель этой статьи — продемонстрировать, почему этот процесс может не давать уверенности в исходном аргументе на естественном языке из-за различных трудностей в выполнении семантически точного перевода. В частности, мы подчеркиваем, что проблема разрешения неоднозначностей в математическом тексте на естественном языке, необходимая для обеспечения семантически точного перевода, произвольно высока в иерархии индекса сложности разрешимости (SCI)/арифметической иерархии (SCI = ∞). Таким образом, неформально говоря, обеспечение семантически точной автоформализации с помощью ИИ сложнее любой вычислительной проблемы, включая проблему остановки (которая имеет SCI = 1). Чтобы продемонстрировать влияние этого результата, мы приводим несколько примеров неправильных переводов ИИ утверждений и доказательств на естественном языке в Lean на практике, что приводит к несоответствиям между доказательствами на естественном языке и их «проверками» в Lean. К ним относится объявленное Open AI доказательство Навье-Стокса. В частности, мы показываем, что формализованное доказательство в Lean не соответствует доказательству на естественном языке взрыва решений уравнений Навье-Стокса.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing