Les proofs générées par IA sont souvent vérifiées à l'aide d'un processus appelé formalisation. OpenAI semble avoir commis une erreur subtile en publiant ses proofs du problème de Navier-Stokes, une équipe de mathématiciens a affirmé. L'erreur ne signifie pas que les proofs sont incorrectes ou que OpenAI n'a pas correctement résolu le problème, mais cela remet en question whether les résultats mathématiques générés par des modèles d'IA peuvent toujours être fiables.
"Ce qui doit être fait avec toutes ces proofs générées par des grands modèles de langage, c'est qu'elles devront être lues par des humains, ce qui crée une charge énorme supplémentaire pour les mathématiciens", dit Anders Hansen à l'Université de Cambridge. Le 8 septembre, OpenAI a annoncé avoir trouvé une solution au problème de Navier-Stokes, l'un des problèmes ouverts les plus célèbres des mathématiques. Il a publié la preuve en deux versions – l'une écrite en "langage naturel" et l'autre écrite dans le code informatique Lean.
Le problème, disent Hansen et son équipe, c'est que les deux proofs ne correspondent pas. "Ce processus de formalisation essaie de remplacer la révision par les pairs", dit le membre de l'équipe Fabian Circelli, également à l'Université de Cambridge. "La révision par les pairs signifierait que des yeux humains regardent les proofs. Mais ce que nous avons montré dans ce papier, c'est que l'utilisation de ce type d'IA auto-formalisation ne peut pas servir le même but."
La revendication spécifique de l'équipe repose sur des parties des proofs appelées Lemma 8.6. Dans la proof en langage naturel, une équation exige qu'une valeur soit inférieure à m + 4, tandis que dans la proof Lean la valeur équivalente est inférieure à m + 5, ce qui est mathématiquement plus faible. OpenAI a déclaré à New Scientist qu'il était conscient du désaccord et que cela ne signifie pas que l'une des proofs est invalide.
Source: Hacker News · Résumé par HeadlinesBriefing