OpenAI afturkallar þrjár stærðfræðiritgerðir vegna villu

OpenAI hefur afturkallað þrjár af 722 stærðfræðihandritum sem fyrirtækið birti þann 6. október, innan við sólarhring eftir birtingu. Fyrirtækið fann formerkjavillu sem eyðilagði röksemdafærslu í einni ritgerð og þá smíð sem tvær aðrar ritgerðir byggðu á. Það endurskoðaði einnig 14 önnur handrit. Afturköllunin hefur aukið á umræðu meðal stærðfræðinga um hvernig eigi að yfirfara gervigreindarsamdar rannsóknir sem gefnar eru út í stórum stíl.retractionwatch+1

Handritin 722 voru birt á opinberu GitHub-geymslusvæði. OpenAI sagði að þau hefðu verið unnin af óútgefinu innra gervigreindarlíkani og flokkaði þau í 372 flokka niðurstaðna í algebru, rúmfræði, tölvunarfræði og öðrum greinum.unite+1

Hvað var afturkallað

Samkvæmt breytingasögu geymslusvæðisins frá 7. október var villan í „Algebraicity of Weil classes on split abelian eightfolds.“ Þar „ógildir formerkjavilla röksemdafærslu um útrýmingu sporrekja og þá smíð sem tvær háðar ritgerðir notuðu“. Þær tvær ritgerðir, „Algebraicity of Kuga–Satake Correspondences for K3 Surfaces“ og „The rational Hodge conjecture for products of K3 surfaces,“ voru einnig afturkallaðar.aiweekly+1

Afturkölluðu útgáfurnar eru enn á netinu, með tilkynningum sem útskýra eyðurnar. 14 endurskoðuð handrit fengu lagfæringar á sönnunum, leiðréttar fullyrðingar, skýrari tilgátur og tengingar, auk einnar lagfæringar á úreltri tilvísun. Heimildaskrár voru einnig uppfærðar í 13 fylgiritum. Skráin telur nú 719 handrit.implicator+1

Talsmaður OpenAI sagði við Retraction Watch að fyrirtækið hefði fundið villurnar við úttekt. „Við fögnum gagnrýni og athugasemdum frá stærðfræðisamfélaginu,“ sagði talsmaðurinn og bætti við að OpenAI myndi „afturkalla ritgerðir ef engar lagfæringar finnast“. Annar talsmaður sagði við The Atlantic að „við búumst við að mistök séu mjög sjaldgæf“. Dan Roberts, rannsóknarstjóri hjá OpenAI, tilkynnti um afturköllunina á X.retractionwatch+1

Áhyggjur af sannprófun

Um 42% niðurstaðnanna fylgja formlegar sannanir í Lean, forritunarmáli sem sannprófar röksemdafærslur með tölvu. Afgangurinn er aðeins til sem skriflegar ritgerðir. OpenAI sagði að ráðgjafahópur sem það vinnur með, Advisory Group on Mathematics and Artificial Intelligence, hefði mælt með því að birta niðurstöðurnar án þess að bíða eftir fullri formfestingu. Talsmaðurinn sagði að um helmingur hefði verið birtur óstaðfestur.asiae+1

Alex Townsend, stærðfræðingur við Cornell-háskóla, sagðist búast við fleiri villum. „Miðað við efasemdir um gervigreind í stærðfræðisamfélaginu tel ég að OpenAI hefði átt að tilkynna fyrst um þau handrit sem voru Lean-staðfest,“ sagði hann við Retraction Watch. Nokkrir stærðfræðingar sögðu við The Atlantic að sumar ritgerðirnar virtust ekki sanna það sem þær halda fram.retractionwatch+1

Baek Hyeongryeol, deildarforseti við framhaldsskóla gervigreindarstærðfræði við KAIST í Suður-Kóreu, sagði að sumar niðurstöðurnar gætu verið „verðugar Fields-verðlauna“ ef þær yrðu staðfestar. Hann sagði einnig að handritin sem hann las „væru erfið viðureignar“.asiae

„Hvort sönnun sé rétt er mikilvægt, en ferlið sem gerir hana að hluta af þekkingu okkar er jafn mikilvægt,“ sagði Baek.asiae