OpenAI trekker tre matte-artikler etter fortegnsfeil

OpenAI har trukket tre av de 722 matematikk-manuskriptene selskapet publiserte 6. oktober, mindre enn et døgn etter at de ble lagt ut. Selskapet oppdaget en fortegnsfeil som ugyldiggjorde argumentasjonen i én artikkel, samt konstruksjonen som to andre artikler baserte seg på. De har også revidert 14 andre manuskripter. Tilbaketrekningene har forsterket debatten blant matematikere om hvordan man skal kontrollere AI-generert forskning som publiseres i store mengder.retractionwatch+1

De 722 manuskriptene ble lagt ut i et offentlig GitHub-arkiv. OpenAI opplyste at de ble produsert av en ikke-utgitt intern modell og gruppert i 372 resultatfamilier innen algebra, geometri, informatikk og andre felt.unite+1

Hva ble trukket tilbake

Ifølge arkivets revisjonshistorikk fra 7. oktober lå feilen i "Algebraicity of Weil classes on split abelian eightfolds". Der "ugyldiggjør en fortegnsfeil et argument om kansellering av stabiliseringsspor, samt konstruksjonen som brukes av to avhengige artikler". Disse to artiklene, "Algebraicity of Kuga–Satake Correspondences for K3 Surfaces" og "The rational Hodge conjecture for products of K3 surfaces," ble også trukket tilbake.aiweekly+1

De tilbaketrukne versjonene ligger fortsatt ute, med merknader som forklarer manglene. De 14 reviderte manuskriptene fikk rettelser i bevisføring, korrigerte påstander, tydeligere hypoteser og avhengigheter, samt én fiks av en utdatert referanse. Referanser ble også oppdatert i 13 tilhørende artikler. Katalogen inneholder nå 719 manuskripter.implicator+1

En talsperson for OpenAI uttalte til Retraction Watch at selskapet fant feilene under en intern revisjon. "Vi ønsker granskning og tilbakemeldinger fra det matematiske miljøet velkommen," sa talspersonen, og la til at OpenAI vil "trekke tilbake artikler hvis ingen rettelser kan finnes". En annen talsperson sa til The Atlantic at "vi forventer at feil vil være ganske sjeldne". Dan Roberts, en forskningsleder hos OpenAI, kunngjorde tilbaketrekningene på X.retractionwatch+1

Bekymringer rundt verifisering

Omtrent 42 % av resultatene kommer med formelle bevis i Lean, et programmeringsspråk som verifiserer bevis ved hjelp av datamaskin. Resten eksisterer kun som skrevne artikler. OpenAI sa at en rådgivende gruppe de samarbeider med, Advisory Group on Mathematics and Artificial Intelligence, anbefalte å publisere resultatene uten å vente på full formalisering. Talspersonen sa at omtrent halvparten ble publisert ubekreftet.asiae+1

Alex Townsend, matematiker ved Cornell University, sier han forventer at flere feil vil dukke opp. "Gitt skepsisen til AI i det matematiske miljøet, mener jeg at OpenAI burde ha kunngjort de Lean-verifiserte manuskriptene først," sa han til Retraction Watch. Flere matematikere uttalte til The Atlantic at enkelte artikler ikke ser ut til å bevise det de hevder.retractionwatch+1

Baek Hyeongryeol, dekan ved KAISTs Graduate School of AI Mathematics i Sør-Korea, sa at noen av resultatene kunne vært "verdige en Fields-medalje" dersom de ble bekreftet. Han sa også at manuskriptene han leste "var vanskelige å følge".asiae

"Hvorvidt et bevis er korrekt er viktig, men prosessen som gjør det til en del av vår kunnskap er like viktig," sa Baek.asiae