OpenAI stahuje tři matematické studie kvůli chybě ve znaménku

Společnost OpenAI stáhla tři ze 722 matematických rukopisů, které zveřejnila 6. října, a to necelý den po jejich publikaci. Firma objevila chybu ve znaménku, která znehodnotila argumentaci v jedné studii a konstrukci, na které závisely dvě další práce. Zároveň revidovala dalších 14 rukopisů. Stažení vyvolalo mezi matematiky debatu o tom, jak kontrolovat hromadně vydávaný výzkum generovaný umělou inteligencí.retractionwatch+1

Celkem 722 rukopisů bylo umístěno do veřejného úložiště na GitHubu. OpenAI uvedla, že byly vytvořeny zatím nevydaným interním modelem, a rozdělila je do 372 okruhů výsledků v algebře, geometrii, informatice a dalších oborech.unite+1

Co bylo staženo

Podle historie revizí úložiště ze 7. října se chyba nacházela v práci „Algebraicity of Weil classes on split abelian eightfolds“. Tam „chyba ve znaménku zneplatňuje argumentaci o stabilizaci a zrušení stopy a konstrukci použitou dvěma závislými studiemi“. Tyto dvě práce, „Algebraicity of Kuga–Satake Correspondences for K3 Surfaces“ a „The rational Hodge conjecture for products of K3 surfaces“, byly rovněž staženy.aiweekly+1

Stažené verze jsou stále online s poznámkami vysvětlujícími mezery. U 14 revidovaných rukopisů byly opraveny důkazy, upravena tvrzení, vyjasněny hypotézy a závislosti a jedna zastaralá citace. U 13 doprovodných prací byly rovněž aktualizovány odkazy. Katalog nyní obsahuje 719 rukopisů.implicator+1

Mluvčí OpenAI pro Retraction Watch uvedl, že firma chyby objevila během auditu. „Vítáme kontrolu a zpětnou vazbu od matematické komunity,“ řekl mluvčí a dodal, že OpenAI „stáhne studie, pokud nelze najít opravy“. Další mluvčí pro The Atlantic uvedl, že „očekáváme, že chyby budou velmi vzácné“. Dan Roberts, vedoucí výzkumu v OpenAI, oznámil stažení na síti X.retractionwatch+1

Obavy z ověřování

Asi 42 % výsledků je doprovázeno formálními důkazy v jazyce Lean, což je programovací jazyk, který ověřuje důkazy počítačově. Zbytek existuje pouze jako psané studie. OpenAI uvedla, že poradní skupina, se kterou spolupracuje, Advisory Group on Mathematics and Artificial Intelligence, doporučila výsledky zveřejnit bez čekání na úplnou formalizaci. Mluvčí uvedl, že zhruba polovina byla zveřejněna bez ověření.asiae+1

Alex Townsend, matematik z Cornellovy univerzity, uvedl, že očekává, že se objeví další chyby. „Vzhledem ke skepsi vůči AI v matematické komunitě si myslím, že OpenAI měla nejprve oznámit rukopisy, které byly ověřeny v Leanu,“ řekl pro Retraction Watch. Několik matematiků pro The Atlantic uvedlo, že některé studie zřejmě nedokazují to, co tvrdí.retractionwatch+1

Baek Hyeongryeol, děkan postgraduální školy AI matematiky na KAIST v Jižní Koreji, uvedl, že některé výsledky by mohly být „hodny Fieldsovy medaile“, pokud by byly potvrzeny. Dodal také, že rukopisy, které četl, „byly obtížně srozumitelné“.asiae

„Zda je důkaz správný, je důležité, ale proces, kterým se stává součástí našeho poznání, je stejně důležitý,“ řekl Baek.asiae