自动形式化越来越多地用于验证数学文本，包括AI生成的文本，例如Open AI宣布的纳维-斯托克斯方程解的爆破证明。在这个过程中，AI系统将文本从自然语言翻译成形式语言（如Lean）。一旦完成翻译，形式语言表达的论证可以轻松地通过机械方式验证。本文旨在说明为什么这个过程可能无法保证原始自然语言论证的可信度，因为在进行语义忠实翻译时存在各种困难。特别是，我们强调解决数学自然语言文本中的歧义问题（这是提供语义忠实翻译所必需的）在可解性复杂度指数（SCI）层次/算术层次中任意高（SCI = ∞）。因此，非正式地说，提供语义忠实的AI自动形式化比任何计算问题（包括停机问题，其SCI = 1）都更难。为了展示这一结果的影响，我们提供了几个AI在实践中将自然语言陈述和证明误译为Lean的例子，导致自然语言证明与其Lean“验证”之间的不匹配。这些包括Open AI宣布的纳维-斯托克斯证明。特别是，我们展示了形式化的Lean证明并不对应于纳维-斯托克斯方程解的爆破的自然语言证明。
来源: Hacker News · 由HeadlinesBriefing整理摘要