Matematici: Důkaz vytvořený AI od OpenAI je téměř nesrozumitelný

Společnost OpenAI v pondělí 21. září oznámila, že spolupracuje s nezávislou poradní skupinou pro matematiku a umělou inteligenci, která sídlí v Prinstonském Institutu pro pokročilá studia. Stalo se tak po týdnech kritiky kvůli spornému a z velké části nečitelnému důkazu Navierovy-Stokesovy rovnice, který vygenerovala AI.openai+1 ## Důkaz, který nikdo nedokáže přečíst Začátkem tohoto měsíce OpenAI odhalila, že 10 000 agentů AI pracujících 88 hodin vytvořilo 166stránkový důkaz ukazující, že tekutiny popsané Navierovými-Stokesovými rovnicemi mohou v konečném čase vyvinout singularitu. Pokud by byl výsledek ověřen, vyřešil by jeden ze šesti zbývajících problémů tisíciletí vyhlášených Clayovým matematickým ústavem. Matematici obecně přijímají důkaz jako technicky správný, částečně proto, že byl doprovázen formálním ověřením v programovacím jazyce Lean. Lidské pochopení výsledku však zůstává nepolapitelné.openai+2 „Zatím bylo velmi obtížné získat z tohoto nového důkazu AI jakékoli lidské porozumění,“ řekl NPR James Maynard, matematik z Oxfordské univerzity. „Ten dokument není psán pro lidi,“ přidal se Javier Gómez-Serrano, matematik z Brownovy univerzity, který uvedl, že důkaz by mohl oboru pomoci po „seriózním přepsání“, ale „k dnešnímu dni nás ten dokument moc nenaučí“.nprillinois Oznámení také vyvolalo spor o autorství. Matematik z NYU Tristan Buckmaster obvinil OpenAI, že stavěla na jeho nepublikovaném výzkumu bez uvedení zásluh, a tvrdil, že mu firma nabídla uvedení jako autora pouze v případě, že se vzdá spolupráce se svým kolegou Leventem Alpögem, který pracuje v Anthropic. OpenAI popřela, že by Buckmasterovu práci použila, ale uznala, že „nemůže vyloučit, že anonymizovaná data odvozená z jejich používání našich produktů pomohla zlepšit naše modely“.futurism+2 ## Elitní poradní panel Nová devítičlenná skupina zahrnuje několik držitelů Fieldsovy medaile a vědce ze Stanfordu, Harvardu, Oxfordu, Cambridge a dalších špičkových institucí. Členové nebudou placeni společností OpenAI a mohou veřejně komentovat dopad firmy na matematiku, nabízet nevyžádané rady a kontrolovat své vlastní členství.theverge+2 „Jeho hodnota závisí na tom, zda členové dokážou uplatnit svůj vlastní úsudek a zpochybnit ten náš,“ uvedla OpenAI na svém blogu. Firma však jasně prohlásila, že skupina „nebude zodpovědná za to, aby nám radila, jakým tempem máme postupovat v našem interním matematickém výzkumu“.techcrunch+1 Někteří matematici pochybují, zda panel může skutečně zastupovat širší komunitu. „Působí to jako slonovinová věž,“ řekl Francesco Fournier-Facio, nastupující profesor na Heriot-Watt University. Simon Machado, výzkumník z ETH Zurich, označil vznik panelu za „zahalený tajemstvím“ a zpochybnil způsob výběru členů.theverge ## Co bude dál Nebezprostřednější výzva pro skupinu může být tou největší. Spolu s oznámením poradního panelu OpenAI prozradila, že stejný nezveřejněný model „vyřešil více než 100 dlouhodobě otevřených problémů napříč většinou oblastí matematiky“. Panel uvedl, že koordinace zveřejnění těchto výsledků je jeho první prioritou.indiatoday+2 Martin Hairer, člen panelu a držitel Fieldsovy medaile, na blogu napsal, že skupina vznikla proto, že firmy zabývající se AI „produkují některé vysoce sledované matematické výsledky“, jejichž „publikace a šíření zdaleka nedosahují přijatelné matematické praxe“. Varoval však, že členové „by byli velmi naivní, kdyby věřili, že se laboratoře AI nebudou snažit naše slova překroutit tak, aby vyhovovala jejich PR mašinérii“.theverge