25 Fields-medaljörer varnar: AI-påståenden om matematiska genombrott hotar disciplinen

OpenAI meddelade den 8 september att en ännu ej släppt intern AI-modell har löst Navier-Stokes-problemet om existens och glatthet – ett av de sju Millennium-problemen inom matematiken – genom att koordinera cirka 10 000 AI-agenter under 88 timmar. Påståendet, som fortfarande väntar på oberoende verifiering, har utlöst en häftig tvist om kreditering, dataintegritet och AI:s roll i vetenskaplig forskning.venturebeat+2

Beviset och tvisten

Navier-Stokes-ekvationerna beskriver rörelsen hos vätskor och gaser, såsom vatten och luft, och utgör grunden för modern vetenskap och ingenjörskonst. OpenAI uppgav att deras modell visade att ekvationerna kan utveckla en singularitet – en «explosion» i hastighet – inom en ändlig tid, en fråga som gäckat matematiker i årtionden. Företaget sade att de inledde arbetet efter att ha hört rykten om att forskare kopplade till rivalen Anthropic var nära en lösning.galaxy+3

Timmar före OpenAI:s tillkännagivande publicerade NYU-matematikern Tristan Buckmaster ett uttalande där han avslöjade att han och Anthropic-forskaren Levent Alpöge hade ägnat över ett år åt att arbeta med samma problem med hjälp av flera stora språkmodeller, inklusive OpenAI:s Codex. Buckmaster sade att när han kontaktade OpenAI om sitt arbete, bjöd företagets forskare Sebastien Bubeck in honom till samarbete – på villkor att Alpöges namn togs bort på grund av hans koppling till Anthropic. När Buckmaster vägrade, ska Bubeck ha frågat: «Varför skulle du förstöra din karriär?» OpenAI har förnekat påståendet.singularityhub+4

OpenAI erkände också att de inte helt kunde utesluta att användardata hjälpt till att träna deras modeller. «Även om det är osannolikt kan vi inte utesluta att avidentifierad data härledd från deras användning av våra produkter hjälpte till att förbättra våra modeller», uppgav företaget.venturebeat+1

Matematiker tar till orda

Den 11 september undertecknade tjugofem Fields-medaljörer – däribland Terence Tao – ett öppet brev där de varnar för att AI-företags brådska att göra anspråk på matematiska genombrott hotar disciplinens fundament. Undertecknarna argumenterade för att lösningar som tillkännages förhastat, utan ordentlig dokumentation eller kreditering av tidigare arbete, undergräver den samarbetskultur som upprätthåller matematiken. «Utan de villiga matematiker som måste ta hand om deras utveckling och integrering i den matematiska kanon, skulle AI-koncipierade idéer aldrig bli fullt levande», stod det i brevet.techcrunch+1

Tao varnade separat för att om AI-företag «hoppar på ett rykte om lovande arbete och kastar miljontals dollar på att försöka hinna före konkurrenter, kan forskare sluta dela med sig av lovande forskning till det bredare samfundet». OpenAI drog tillbaka sitt sponsring av ett matevenemang vid Caltech denna vecka efter kritik från forskare där.singularityhub+1

Bredare implikationer

Episoden har väckt frågor som sträcker sig långt utanför matematiken. Clay Mathematics Institute listar fortfarande Navier-Stokes-problemet som «aktivt» snarare än «löst», och enligt deras regler kan inget pris delas ut förrän minst två år efter publicering. OpenAI har sagt att de inte kommer att hämta ut prissumman på 1 miljon dollar.theweek+2

Kontroversen uppstår samtidigt som både OpenAI och Anthropic förbereder sig för planerade börsnoteringar, vilket ger båda företagen incitament att visa upp sina modellers kapacitet. Som Fields-medaljörerna skrev: «De problem som det matematiska samfundet står inför nu liknar problem som andra vetenskapliga och kreativa yrken står inför, och indikerar utmaningar som hela mänskligheten kan komma att möta».galaxy+1