AI生成の証明は形式化のプロセスを使用してチェックされることがよくあります。OpenAIがナヴィエ-ストークス問題の証明を公開した際、微かな誤りを犯した可能性があると数学者チームが主張しています。この誤りは証明が誤りであることを意味したり、OpenAIが問題を正しく解いていないことを意味したりしませんが、AIモデルによって生成された数学的結果常に信頼できるとは限らないという疑問を提起しています。
「このような大規模言語モデルによって生成された証明は、人間によって読まれなければならず、これは数学者に膨大な負担をかけます」とAnders HansenはUniversity of Cambridgeで述べています。9月8日、OpenAIはナヴィエ-ストークス問題の解を発見したと発表し、数学で最も有名な未解決問題の一つであると同時に発表しました。2つのバージョンの証明を公開しました – 1つは"自然言語"で書かれ、もう1つはコンピュータコードLeanで書かれました。
問題は、ハンセンと彼のチームが言うところでは、2つの証明が一致しないことです。「この形式化プロセスは査読を置き換えようとしています」とチームメンバーのFabian CircelliもUniversity of Cambridgeに所属し述べています。「査読とは人間が証明を検証することですが、この種類のAI自動形式化は同じ目的を果たすことができないことを我々はこの論文で示しました」。
チームの具体的な主張は、証明の一部であるLemma 8.6に依存しています。自然言語の証明では、方程式がm + 4より小さくなければならないと要求しますが、Lean証明では対応する値はm + 5より小さく、これは数学的に弱いものです。OpenAIはNew Scientistに対し、この不一致に気づいており、どちらの証明も無効ではないと述べました。
出典: Hacker News · 要約：HeadlinesBriefing