L'autoformalisation est de plus en plus utilisée pour vérifier des textes mathématiques, y compris ceux générés par l'IA, comme dans la preuve annoncée par Open AI de l'explosion des solutions des équations de Navier-Stokes. Dans ce processus, un système d'IA traduit le texte d'une langue naturelle vers un langage formel tel que Lean. Une fois cette traduction effectuée, l'argument exprimé dans le langage formel peut être facilement vérifié mécaniquement.
Le but de cet article est de démontrer pourquoi ce processus peut n'offrir aucune confiance dans l'argument original en langue naturelle, en raison des diverses difficultés à effectuer une traduction sémantiquement fidèle. En particulier, nous soulignons que le problème de résolution des ambiguïtés dans le texte mathématique en langue naturelle, nécessaire pour fournir une traduction sémantiquement fidèle, est arbitrairement élevé dans la hiérarchie de l'indice de complexité de résolubilité (SCI)/hiérarchie arithmétique (le SCI = ∞). Ainsi, de manière informelle, fournir une autoformalisation sémantiquement fidèle par l'IA est plus difficile que tout problème computationnel, y compris le problème de l'arrêt (qui a SCI = 1).
Pour démontrer l'effet de ce résultat, nous fournissons plusieurs exemples de mauvaises traductions par l'IA d'énoncés et de preuves en langue naturelle vers Lean dans la pratique, entraînant des décalages entre les preuves en langue naturelle et leurs 'vérifications' Lean. Ceux-ci incluent la preuve de Navier-Stokes annoncée par Open AI. En particulier, nous montrons que la preuve formalisée en Lean ne correspond pas à la preuve en langue naturelle de l'explosion des solutions des équations de Navier-Stokes.
Source: Hacker News · Résumé par HeadlinesBriefing