Des mathématiciens jugent la preuve générée par l’IA d’OpenAI « presque incompréhensible »

OpenAI a annoncé lundi 21 septembre sa collaboration avec un groupe consultatif indépendant sur les mathématiques et l'intelligence artificielle, hébergé à l'Institute for Advanced Study de Princeton, après des semaines de remous causés par une preuve générée par IA du problème du prix du millénaire de Navier-Stokes, jugée largement illisible.openai+1

Une preuve que personne ne peut lire

Plus tôt ce mois-ci, OpenAI a révélé que 10 000 agents d'IA travaillant pendant 88 heures avaient produit une preuve de 166 pages démontrant que les fluides décrits par les équations de Navier-Stokes peuvent développer une singularité en temps fini. Un résultat qui, s'il est vérifié, résoudrait l'un des six problèmes du prix du millénaire restants posés par le Clay Mathematics Institute. Les mathématiciens acceptent globalement la preuve comme techniquement correcte, en partie parce qu'elle était accompagnée d'une vérification formelle dans le langage de programmation Lean. Mais la compréhension humaine du résultat reste insaisissable.openai+2

"Jusqu'à présent, il a été très difficile d'extraire une quelconque compréhension humaine de cette nouvelle preuve par IA", a déclaré à NPR James Maynard, mathématicien à l'Université d'Oxford. "Le document n'est pas écrit pour les humains", a fait écho Javier Gómez-Serrano, mathématicien à l'Université Brown, ajoutant que la preuve pourrait aider le domaine après "quelques réécritures sérieuses", mais qu'"à ce jour, le document ne nous apprend pas grand-chose".nprillinois

L'annonce a également déclenché un litige sur la paternité des travaux. Le mathématicien de NYU, Tristan Buckmaster, a accusé OpenAI de s'être appuyé sur ses recherches inédites sans le créditer, affirmant que l'entreprise lui avait proposé de le citer comme auteur uniquement s'il excluait son collaborateur, Levent Alpöge, qui travaille chez Anthropic. OpenAI a nié avoir utilisé les travaux de Buckmaster, tout en reconnaissant qu'elle "ne peut exclure que des données désidentifiées dérivées de l'utilisation de nos produits aient aidé à améliorer nos modèles".futurism+2

Un panel consultatif d'élite

Le nouveau groupe de neuf membres comprend plusieurs lauréats de la médaille Fields et des universitaires de Stanford, Harvard, Oxford, Cambridge et d'autres institutions de premier plan. Les membres ne seront pas rémunérés par OpenAI et pourront commenter publiquement l'impact de l'entreprise sur les mathématiques, offrir des conseils non sollicités et contrôler leur propre composition.theverge+2

"Sa valeur dépend de la capacité de ses membres à exercer leur propre jugement et à contester le nôtre", a déclaré OpenAI dans un article de blog. Cependant, l'entreprise a précisé que le groupe "ne sera pas responsable de nous conseiller sur la manière de rythmer nos progrès internes en mathématiques".techcrunch+1

Certains mathématiciens ont remis en question la capacité du panel à représenter réellement la communauté dans son ensemble. "Cela ressemble à une tour d'ivoire", a déclaré Francesco Fournier-Facio, professeur à l'Université Heriot-Watt. Simon Machado, chercheur à l'ETH Zurich, a qualifié la formation du panel de "nimbée de mystère" et a interrogé les critères de sélection des membres.theverge

Et ensuite ?

Le défi le plus immédiat du groupe pourrait être le plus important. Parallèlement à l'annonce du panel consultatif, OpenAI a révélé que le même modèle non publié a "résolu plus de 100 problèmes mathématiques ouverts de longue date dans la plupart des domaines des mathématiques". Le panel a déclaré que la coordination de la publication de ces résultats était sa première priorité.indiatoday+2

Martin Hairer, membre du panel et lauréat de la médaille Fields, a écrit dans un article de blog que le groupe a été formé parce que les entreprises d'IA "produisent des résultats mathématiques très médiatisés" dont "la publication et la diffusion sont loin de répondre aux pratiques mathématiques acceptables". Il a toutefois prévenu que les membres "seraient très naïfs de croire que les laboratoires d'IA n'essaieront pas de présenter tout ce que nous disons d'une manière qui serve leur machine de relations publiques".theverge