A autoformalização é cada vez mais usada para verificar textos matemáticos, incluindo aqueles gerados por IA, como na prova anunciada pela Open AI da explosão de soluções para as equações de Navier-Stokes. Nesse processo, um sistema de IA traduz o texto de uma língua natural para uma língua formal como Lean. Uma vez feita essa tradução, o argumento expresso na língua formal pode ser facilmente verificado mecanicamente.
O objetivo deste artigo é demonstrar por que esse processo pode não oferecer confiança no argumento original em língua natural, devido às várias dificuldades em realizar a tradução semanticamente fiel. Em particular, destacamos que o problema de resolver ambiguidades em texto matemático em língua natural, necessário para fornecer uma tradução semanticamente fiel, é arbitrariamente alto na hierarquia do Índice de Complexidade de Solubilidade (SCI)/hierarquia aritmética (o SCI = ∞). Portanto, informalmente, fornecer autoformalização semanticamente fiel por IA é mais difícil do que qualquer problema computacional, incluindo o problema da parada (que tem SCI = 1).
Para demonstrar o efeito desse resultado, fornecemos vários exemplos de traduções incorretas de IA de declarações e provas em língua natural para Lean na prática, resultando em incompatibilidades entre as provas em língua natural e suas 'verificações' em Lean. Estes incluem a prova de Navier-Stokes anunciada pela Open AI. Em particular, mostramos que a prova formalizada em Lean não corresponde à prova em língua natural da explosão de soluções para as equações de Navier-Stokes.
Fonte: Hacker News · Resumido por HeadlinesBriefing