La autoformalización se utiliza cada vez más para verificar textos matemáticos, incluidos los generados por IA, como en la prueba anunciada por Open AI de la explosión de soluciones a las ecuaciones de Navier-Stokes. En este proceso, un sistema de IA traduce el texto de un lenguaje natural a un lenguaje formal como Lean. Una vez realizada esta traducción, el argumento expresado en el lenguaje formal puede verificarse mecánicamente fácilmente.
El propósito de este artículo es demostrar por qué este proceso puede no ofrecer confianza en el argumento original en lenguaje natural, debido a las diversas dificultades para realizar la traducción semánticamente fiel. En particular, destacamos que el problema de resolver ambigüedades en el texto matemático en lenguaje natural, necesario para proporcionar una traducción semánticamente fiel, es arbitrariamente alto en la jerarquía del Índice de Complejidad de Solubilidad (SCI)/jerarquía aritmética (el SCI = ∞). Por lo tanto, informalmente, proporcionar una autoformalización semánticamente fiel de IA es más difícil que cualquier problema computacional, incluido el problema de la parada (que tiene SCI = 1).
Para demostrar el efecto de este resultado, proporcionamos varios ejemplos de malas traducciones de IA de declaraciones y pruebas en lenguaje natural a Lean en la práctica, lo que resulta en desajustes entre las pruebas en lenguaje natural y sus 'verificaciones' en Lean. Estos incluyen la prueba de Navier-Stokes anunciada por Open AI. En particular, mostramos que la prueba formalizada en Lean no corresponde a la prueba en lenguaje natural de la explosión de soluciones a las ecuaciones de Navier-Stokes.
Fuente: Hacker News · Resumido por HeadlinesBriefing