OpenAI veti takaisin kolme matematiikan tutkimusta etumerkkivirheen vuoksi

OpenAI on vetänyt takaisin kolme 722:sta matematiikan käsikirjoituksesta, jotka se julkaisi 6. lokakuuta, alle vuorokausi niiden julkaisun jälkeen. Yhtiö löysi etumerkkivirheen, joka romutti yhden artikkelin argumentin sekä rakenteen, johon kaksi muuta artikkelia tukeutuivat. Yhtiö päivitti myös 14 muuta käsikirjoitusta. Takaisinvedot ovat lisänneet matemaatikkojen välistä keskustelua siitä, miten massoittain julkaistua tekoälytutkimusta tulisi tarkistaa.retractionwatch+1

Käsikirjoitukset julkaistiin julkisessa GitHub-arkistossa. OpenAI:n mukaan ne on tuotettu julkaisemattomalla sisäisellä tekoälymallilla, ja ne on ryhmitelty 372 tulosperheeseen algebran, geometrian, tietojenkäsittelytieteen ja muiden alojen kesken.unite+1

Mitä vedettiin takaisin

Arkiston 7. lokakuuta päivitetyn muutoslokin mukaan virhe oli artikkelissa "Algebraicity of Weil classes on split abelian eightfolds". Siinä "etumerkkivirhe mitätöi stabilointi-jälki-kumoamisargumentin ja kahden tukeutuvan artikkelin käyttämän rakenteen". Nämä kaksi artikkelia, "Algebraicity of Kuga–Satake Correspondences for K3 Surfaces" ja "The rational Hodge conjecture for products of K3 surfaces", vedettiin myös takaisin.aiweekly+1

Takaisinvedetyt versiot ovat yhä verkossa, ja niissä on huomautukset, jotka selittävät puutteet. 14 päivitettyä käsikirjoitusta saivat korjauksia todistuksiin, korjattuja väittämiä, selkeämpiä hypoteeseja ja riippuvuuksia sekä yhden korjauksen vanhentuneeseen viitteeseen. Myös 13 oheisartikkelin viitteet päivitettiin. Luettelossa on nyt 719 käsikirjoitusta.implicator+1

OpenAI:n tiedottaja kertoi Retraction Watchille, että yhtiö löysi virheet auditoinnin yhteydessä. "Toivotamme matemaattisen yhteisön tarkastelun ja palautteen tervetulleeksi", tiedottaja sanoi ja lisäsi, että OpenAI "vetää artikkeleita takaisin, jos korjauksia ei löydy". Toinen tiedottaja kertoi The Atlanticille, että "odotamme virheiden olevan hyvin harvinaisia". OpenAI:n tutkimusjohtaja Dan Roberts ilmoitti takaisinvedoista X-palvelussa.retractionwatch+1

Varmistamiseen liittyvät huolet

Noin 42 prosentilla tuloksista on muodolliset todistukset Lean-kielellä, joka on ohjelmointikieli todistusten tietokonepohjaiseen tarkistamiseen. Loput ovat olemassa vain kirjoitettuina artikkeleina. OpenAI:n mukaan sen kanssa työskentelevä neuvoa-antava ryhmä, Advisory Group on Mathematics and Artificial Intelligence, suositteli tulosten julkaisemista odottamatta täyttä formalisointia. Tiedottajan mukaan noin puolet julkaistiin vahvistamattomina.asiae+1

Cornellin yliopiston matemaatikko Alex Townsend sanoi odottavansa virheitä löytyvän lisää. "Ottaen huomioon tekoälyä kohtaan tunnetun skeptisyyden matemaattisessa yhteisössä, mielestäni OpenAI:n olisi pitänyt julkistaa ensin Lean-tarkistetut käsikirjoitukset", hän kertoi Retraction Watchille. Useat matemaatikot kertoivat The Atlanticille, että jotkut artikkelit eivät näytä todistavan sitä, mitä ne väittävät.retractionwatch+1

Eteläkorealaisen KAIST-yliopiston tekoälymatematiikan jatko-opintojen dekaani Baek Hyeongryeol sanoi, että jotkut tuloksista voisivat olla "Fields-mitalin arvoisia", jos ne vahvistetaan. Hän totesi myös, että hänen lukemansa käsikirjoitukset "olivat vaikeaselkoisia".asiae

"Se, onko todistus oikein, on tärkeää, mutta prosessi, jolla siitä tulee osa tietämystämme, on aivan yhtä tärkeä", Baek sanoi.asiae