Matematikere kaller OpenAIs KI-genererte bevis for uforståelig

OpenAI kunngjorde mandag 21. september at de samarbeider med en uavhengig rådgivningsgruppe for matematikk og kunstig intelligens, basert ved Princeton-instituttet Institute for Advanced Study, etter uker med kritikk mot et omstridt og i stor grad uleselig KI-generert bevis for Navier-Stokes-problemet.openai+1

Et bevis ingen kan lese

Tidligere denne måneden avslørte OpenAI at 10 000 KI-agenter hadde brukt 88 timer på å produsere et 166 sider langt bevis som viser at væsker beskrevet av Navier-Stokes-ligningene kan utvikle en singularitet i løpet av begrenset tid. Dersom resultatet verifiseres, vil det løse ett av de seks gjenværende Millennium-problemene fra Clay Mathematics Institute. Matematikere aksepterer stort sett beviset som teknisk korrekt, delvis fordi det ble ledsaget av en formell verifisering i programmeringsspråket Lean. Menneskelig forståelse av resultatet forblir imidlertid mangelfull.openai+2

"Så langt har det vært svært vanskelig å hente ut noen form for menneskelig forståelse fra dette nye KI-beviset," sier James Maynard, matematiker ved University of Oxford, til NPR. "Artikkelen er ikke skrevet for mennesker," istemmer Javier Gómez-Serrano, matematiker ved Brown University. Han mener beviset kan være nyttig for feltet etter "betydelig omskriving," men at artikkelen per i dag ikke gir oss mye ny innsikt.nprillinois

Kunngjøringen utløste også en tvist om kreditering. NYU-matematikeren Tristan Buckmaster anklaget OpenAI for å bygge på hans upubliserte forskning uten å gi kreditt. Han hevdet selskapet tilbød å føre ham opp som forfatter kun dersom han ekskluderte sin samarbeidspartner Levent Alpöge, som jobber hos Anthropic. OpenAI benekter å ha brukt Buckmasters arbeid, men erkjenner at de "ikke kan utelukke at avidentifiserte data avledet fra deres bruk av våre produkter har bidratt til å forbedre modellene våre".futurism+2

Et elitistisk rådgivningspanel

Den nye gruppen består av ni medlemmer, inkludert flere vinnere av Fields-medaljen og akademikere fra Stanford, Harvard, Oxford, Cambridge og andre toppinstitusjoner. Medlemmene mottar ikke lønn fra OpenAI og kan fritt kommentere selskapets innvirkning på matematikken, gi uoppfordrede råd og kontrollere sitt eget medlemskap.theverge+2

"Verdien avhenger av at medlemmene kan utøve sin egen dømmekraft og utfordre vår," skriver OpenAI i et blogginnlegg. Selskapet presiserte imidlertid at gruppen "ikke vil ha ansvar for å gi råd om tempoet i vår interne matematiske fremgang".techcrunch+1

Enkelte matematikere stiller spørsmål ved om panelet virkelig representerer det bredere fagmiljøet. "Det føles som et elfenbenstårn," sier Francesco Fournier-Facio, påtroppende professor ved Heriot-Watt University. Simon Machado, forsker ved ETH Zürich, beskriver dannelsen av panelet som "hyllet i mystikk" og stiller spørsmål ved hvordan medlemmene ble valgt ut.theverge

Hva skjer videre

Gruppens mest umiddelbare utfordring kan være den største. Sammen med kunngjøringen av rådgivningspanelet avslørte OpenAI at den samme upubliserte modellen har "løst mer enn 100 langvarige åpne problemer på tvers av de fleste matematiske områder". Panelet opplyser at koordinering av publiseringen av disse resultatene er deres første prioritet.indiatoday+2

Martin Hairer, panelmedlem og vinner av Fields-medaljen, skriver i et blogginnlegg at gruppen ble dannet fordi KI-selskaper har "produsert en rekke profilerte matematiske resultater" der "publisering og formidling har ligget langt under akseptabel matematisk praksis". Han advarte imidlertid om at medlemmene "ville være svært naive om de trodde at KI-laboratoriene ikke vil forsøke å vinkle det vi sier på en måte som passer deres PR-maskineri".theverge