Matematiker kallar OpenAIs AI-genererade bevis för obegripligt

OpenAI meddelade måndagen den 21 september att de inleder ett samarbete med en oberoende rådgivande grupp för matematik och artificiell intelligens, baserad vid Princeton-institutet Institute for Advanced Study, efter veckor av kritik mot ett omstritt och till stor del oläsligt AI-genererat bevis för Navier-Stokes-problemet.openai+1

Ett bevis ingen kan läsa

Tidigare denna månad avslöjade OpenAI att 10 000 AI-agenter arbetat i 88 timmar för att producera ett 166 sidor långt bevis som visar att vätskor beskrivna av Navier-Stokes-ekvationerna kan utveckla en singularitet inom begränsad tid. Om resultatet verifieras skulle det lösa ett av de sex kvarvarande Millennium-problemen från Clay Mathematics Institute. Matematiker accepterar i stort beviset som tekniskt korrekt, delvis för att det åtföljdes av en formell verifiering i programmeringsspråket Lean. Mänsklig förståelse av resultatet förblir dock svårfångad.openai+2

"Hittills har det varit mycket svårt att verkligen utvinna någon mänsklig förståelse från detta nya AI-bevis," säger James Maynard, matematiker vid University of Oxford, till NPR. "Artikeln är inte skriven för människor," instämmer Javier Gómez-Serrano, matematiker vid Brown University, som menar att beviset skulle kunna hjälpa fältet efter "en del seriös omskrivning" men att "artikeln i dagsläget inte lär oss särskilt mycket".nprillinois

Tillkännagivandet utlöste även en tvist om kreditering. NYU-matematikern Tristan Buckmaster anklagade OpenAI för att bygga vidare på hans opublicerade forskning utan att ge erkännande. Han hävdade att företaget erbjöd sig att lista honom som författare endast om han exkluderade sin samarbetspartner Levent Alpöge, som arbetar på Anthropic. OpenAI förnekar att de använt Buckmasters arbete men erkänner att de "inte kan utesluta att avidentifierad data härledd från deras användning av våra produkter hjälpt till att förbättra våra modeller".futurism+2

En elitistisk rådgivande panel

Den nya gruppen består av nio medlemmar, inklusive flera vinnare av Fields-medaljen och akademiker från Stanford, Harvard, Oxford, Cambridge och andra toppinstitutioner. Medlemmarna får ingen ersättning från OpenAI och kan offentligt kommentera företagets inverkan på matematiken, ge oombedda råd och kontrollera sitt eget medlemskap.theverge+2

"Värdet beror på att medlemmarna kan utöva sitt eget omdöme och utmana vårt," skriver OpenAI i ett blogginlägg. Företaget klargjorde dock att gruppen "inte kommer att ansvara för att ge råd om hur vi ska hålla takten i vår interna matematiska utveckling".techcrunch+1

Vissa matematiker ifrågasätter om panelen verkligen kan representera det bredare forskarsamhället. "Det känns som ett elfenbenstorn," säger Francesco Fournier-Facio, tillträdande professor vid Heriot-Watt University. Simon Machado, forskare vid ETH Zürich, kallar panelens bildande för "höljt i mystik" och ifrågasätter hur medlemmarna valdes ut.theverge

Vad händer härnäst

Gruppens mest omedelbara utmaning kan vara den största. I samband med tillkännagivandet av rådgivningspanelen avslöjade OpenAI att samma opublicerade modell har "löst mer än 100 långvariga öppna problem inom de flesta områden av matematiken". Panelen uppger att samordningen av publiceringen av dessa resultat är deras högsta prioritet.indiatoday+2

Martin Hairer, panelmedlem och vinnare av Fields-medaljen, skriver i ett blogginlägg att gruppen bildades eftersom AI-företag har "producerat en del uppmärksammade matematiska resultat" vars "publicering och spridning har legat långt under acceptabel matematisk praxis". Han varnade dock för att medlemmarna "skulle vara mycket naiva om de trodde att AI-labbet inte kommer att försöka vinkla vad vi än säger på ett sätt som passar deras PR-maskineri".theverge