OpenAI retire trois articles de mathématiques suite à une erreur de signe

OpenAI a retiré trois des 722 manuscrits de mathématiques publiés le 6 octobre, moins d'un jour après leur mise en ligne. L'entreprise a découvert une erreur de signe qui a invalidé l'argument d'un article ainsi que la construction sur laquelle deux autres articles s'appuyaient. Elle a également révisé 14 autres manuscrits. Ces retraits ont alimenté le débat parmi les mathématiciens sur la manière de vérifier les recherches générées par IA publiées en masse.retractionwatch+1

Les 722 manuscrits ont été publiés sur un dépôt GitHub public. OpenAI a déclaré qu'ils avaient été produits par un modèle interne de pointe non publié et les a regroupés en 372 familles de résultats en algèbre, géométrie, informatique et autres domaines.unite+1

Ce qui a été retiré

Selon l'historique des révisions du dépôt au 7 octobre, l'erreur se trouvait dans "Algebraicity of Weil classes on split abelian eightfolds". Là, "une erreur de signe invalide un argument d'annulation de trace de stabilisation et la construction utilisée par deux articles dépendants". Ces deux articles, "Algebraicity of Kuga–Satake Correspondences for K3 Surfaces" et "The rational Hodge conjecture for products of K3 surfaces", ont également été retirés.aiweekly+1

Les versions retirées sont toujours en ligne, avec des avis expliquant les lacunes. Les 14 manuscrits révisés ont bénéficié de corrections de preuves, d'énoncés corrigés, d'hypothèses et de dépendances plus claires, ainsi que d'une mise à jour d'une citation obsolète. Les références ont également été mises à jour dans 13 articles complémentaires. Le catalogue compte désormais 719 manuscrits.implicator+1

Un porte-parole d'OpenAI a déclaré à Retraction Watch que l'entreprise avait découvert les erreurs lors d'un audit. "Nous accueillons favorablement l'examen et les commentaires de la communauté mathématique", a déclaré le porte-parole, ajoutant qu'OpenAI "retirerait les articles si aucune solution ne pouvait être trouvée". Un autre porte-parole a déclaré à The Atlantic que "nous nous attendons à ce que les erreurs soient très rares". Dan Roberts, responsable de recherche chez OpenAI, a annoncé les retraits sur X.retractionwatch+1

Préoccupations concernant la vérification

Environ 42% des résultats sont accompagnés de preuves formelles en Lean, un langage de programmation qui vérifie les preuves par ordinateur. Le reste n'existe que sous forme d'articles écrits. OpenAI a déclaré qu'un groupe consultatif avec lequel elle travaille, le Groupe consultatif sur les mathématiques et l'intelligence artificielle, a recommandé de publier les résultats sans attendre la formalisation complète. Le porte-parole a indiqué qu'environ la moitié ont été publiés sans confirmation.asiae+1

Alex Townsend, mathématicien à l'Université Cornell, a déclaré qu'il s'attendait à ce que d'autres erreurs apparaissent. "Compte tenu du scepticisme à l'égard de l'IA dans la communauté mathématique, je pense qu'OpenAI aurait dû annoncer en premier les manuscrits vérifiés par Lean", a-t-il déclaré à Retraction Watch. Plusieurs mathématiciens ont confié à The Atlantic que certains articles ne semblent pas prouver ce qu'ils prétendent.retractionwatch+1

Baek Hyeongryeol, doyen de l'École supérieure de mathématiques de l'IA du KAIST en Corée du Sud, a déclaré que certains résultats pourraient être "dignes d'une médaille Fields" s'ils étaient confirmés. Il a également noté que les manuscrits qu'il a lus "étaient difficiles à suivre".asiae

"Qu'une preuve soit correcte est important, mais le processus par lequel elle devient une partie de nos connaissances est tout aussi important", a déclaré Baek.asiae