Die Autoformalisierung wird zunehmend verwendet, um mathematische Texte zu verifizieren, einschließlich solcher, die von KI generiert wurden, wie im angekündigten Beweis von Open AI für das Aufblasen von Lösungen der Navier-Stokes-Gleichungen. In diesem Prozess übersetzt ein KI-System den Text aus einer natürlichen Sprache in eine formale Sprache wie Lean. Sobald diese Übersetzung abgeschlossen ist, kann das in der formalen Sprache ausgedrückte Argument leicht mechanisch verifiziert werden.
Der Zweck dieses Artikels ist es zu demonstrieren, warum dieser Prozess kein Vertrauen in das ursprüngliche Argument in natürlicher Sprache bieten kann, aufgrund der verschiedenen Schwierigkeiten bei der semantisch treuen Übersetzung. Insbesondere heben wir hervor, dass das Problem der Auflösung von Mehrdeutigkeiten in mathematischem Text in natürlicher Sprache, das für eine semantisch treue Übersetzung notwendig ist, in der Hierarchie des Lösbarkeitskomplexitätsindex (SCI)/arithmetischen Hierarchie beliebig hoch ist (der SCI = ∞). Daher ist es informell gesprochen schwieriger, eine semantisch treue KI-Autoformalisierung bereitzustellen als jedes Rechenproblem, einschließlich des Halteproblems (das SCI = 1 hat).
Um die Wirkung dieses Ergebnisses zu demonstrieren, liefern wir mehrere Beispiele für KI-Fehlübersetzungen von Aussagen und Beweisen in natürlicher Sprache in Lean in der Praxis, die zu Diskrepanzen zwischen Beweisen in natürlicher Sprache und ihren Lean-„Verifikationen“ führen. Dazu gehört der angekündigte Navier-Stokes-Beweis von Open AI. Insbesondere zeigen wir, dass der formalisierte Lean-Beweis nicht dem Beweis in natürlicher Sprache für das Aufblasen von Lösungen der Navier-Stokes-Gleichungen entspricht.
Quelle: Hacker News · Zusammengefasst von HeadlinesBriefing