OpenAI drar tillbaka tre matteartiklar efter teckenfel

OpenAI har dragit tillbaka tre av de 722 matematikmanuskript som publicerades den 6 oktober, mindre än ett dygn efter att de lagts ut. Företaget upptäckte ett teckenfel som ogiltigförklarade argumentationen i en artikel samt den konstruktion som två andra artiklar vilade på. De har även reviderat 14 andra manuskript. Tillbakadragandena har ökat debatten bland matematiker om hur man bör granska AI-genererad forskning som släpps i stor skala.retractionwatch+1

De 722 manuskripten publicerades i ett offentligt GitHub-arkiv. OpenAI uppgav att de tagits fram av en ännu ej släppt intern modell och grupperats i 372 resultatfamiljer inom algebra, geometri, datavetenskap och andra områden.unite+1

Vad som drogs tillbaka

Enligt arkivets ändringshistorik från den 7 oktober fanns felet i "Algebraicity of Weil classes on split abelian eightfolds". Där "ogiltigförklarar ett teckenfel ett argument om stabiliseringsspår samt den konstruktion som används av två beroende artiklar". Dessa två artiklar, "Algebraicity of Kuga–Satake Correspondences for K3 Surfaces" och "The rational Hodge conjecture for products of K3 surfaces," drogs också tillbaka.aiweekly+1

De tillbakadragna versionerna finns fortfarande kvar online, med notiser som förklarar bristerna. De 14 reviderade manuskripten fick bevisrättelser, korrigerade påståenden, tydligare hypoteser och beroenden, samt en rättelse av en föråldrad referens. Referenser uppdaterades även i 13 kompletterande artiklar. Katalogen listar nu 719 manuskript.implicator+1

En talesperson för OpenAI uppgav för Retraction Watch att företaget hittade felen under en granskning. "Vi välkomnar granskning och feedback från det matematiska samfundet," sade talespersonen och tillade att OpenAI kommer att "dra tillbaka artiklar om inga rättelser kan hittas". En annan talesperson sade till The Atlantic att "vi förväntar oss att misstag är ganska sällsynta". Dan Roberts, forskningsledare på OpenAI, meddelade tillbakadragandena på X.retractionwatch+1

Frågetecken kring verifiering

Cirka 42 % av resultaten åtföljs av formella bevis i Lean, ett programmeringsspråk som verifierar bevis via dator. Resten existerar endast som skrivna artiklar. OpenAI uppgav att en rådgivande grupp de samarbetar med, Advisory Group on Mathematics and Artificial Intelligence, rekommenderade att resultaten släpptes utan att vänta på full formalisering. Talespersonen sade att ungefär hälften släpptes obekräftade.asiae+1

Alex Townsend, matematiker vid Cornell University, säger att han förväntar sig att fler fel kommer att upptäckas. "Med tanke på skepsisen mot AI inom matematikvärlden tycker jag att OpenAI borde ha publicerat de Lean-verifierade manuskripten först," sade han till Retraction Watch. Flera matematiker uppgav för The Atlantic att vissa artiklar inte verkar bevisa det de påstår.retractionwatch+1

Baek Hyeongryeol, dekan vid KAISTs Graduate School of AI Mathematics i Sydkorea, sade att vissa av resultaten skulle kunna vara "värdiga en Fieldsmedalj" om de bekräftas. Han tillade även att de manuskript han läste "var svåra att följa".asiae

"Huruvida ett bevis är korrekt är viktigt, men processen genom vilken det blir en del av vår kunskap är minst lika viktig," sade Baek.asiae