Mathematiker kritisieren KI-Beweis von OpenAI als kaum verständlich

OpenAI gab am Montag, den 21. September, bekannt, dass das Unternehmen mit einer unabhängigen Beratungsgruppe für Mathematik und Künstliche Intelligenz zusammenarbeitet, die am Institute for Advanced Study in Princeton angesiedelt ist. Dies geschieht nach wochenlangen Diskussionen über einen umstrittenen und weitgehend unlesbaren KI-generierten Beweis für das Navier-Stokes-Millennium-Problem.openai+1

Ein Beweis, den niemand lesen kann

Anfang des Monats enthüllte OpenAI, dass 10.000 KI-Agenten in 88 Stunden einen 166-seitigen Beweis erstellt haben, der zeigt, dass Flüssigkeiten, die durch die Navier-Stokes-Gleichungen beschrieben werden, in endlicher Zeit eine Singularität entwickeln können. Ein Ergebnis, das, falls verifiziert, eines der sechs verbleibenden Millennium-Probleme des Clay Mathematics Institute lösen würde. Mathematiker akzeptieren den Beweis weitgehend als technisch korrekt, teilweise weil er von einer formalen Verifizierung in der Programmiersprache Lean begleitet wurde. Das menschliche Verständnis des Ergebnisses bleibt jedoch schwer fassbar.openai+2

"Bisher war es sehr schwierig, aus diesem neuen KI-Beweis ein echtes menschliches Verständnis zu gewinnen", sagte James Maynard, Mathematiker an der University of Oxford, gegenüber NPR. "Das Papier ist nicht für Menschen geschrieben", pflichtete Javier Gómez-Serrano, Mathematiker an der Brown University, bei. Er sagte, der Beweis könne dem Fachgebiet nach "einigen ernsthaften Überarbeitungen" helfen, aber "zum heutigen Zeitpunkt lehrt uns das Papier nicht viel".nprillinois

Die Ankündigung löste auch einen Streit über die Urheberschaft aus. Der NYU-Mathematiker Tristan Buckmaster beschuldigte OpenAI, auf seiner unveröffentlichten Forschung ohne Quellenangabe aufgebaut zu haben. Er behauptete, das Unternehmen habe ihm angeboten, ihn als Autor zu führen, nur wenn er seinen Mitarbeiter Levent Alpöge, der bei Anthropic arbeitet, fallen ließe. OpenAI bestritt die Verwendung von Buckmasters Arbeit, räumte jedoch ein, dass man "nicht ausschließen kann, dass anonymisierte Daten, die aus der Nutzung unserer Produkte abgeleitet wurden, zur Verbesserung unserer Modelle beigetragen haben".futurism+2

Ein elitäres Beratungsgremium

Die neue neunköpfige Gruppe umfasst mehrere Fields-Medaillen-Gewinner sowie Wissenschaftler von Stanford, Harvard, Oxford, Cambridge und anderen Spitzeninstitutionen. Die Mitglieder werden nicht von OpenAI bezahlt und können sich öffentlich zur Auswirkung des Unternehmens auf die Mathematik äußern, ungefragte Ratschläge geben und ihre Mitgliedschaft selbst kontrollieren.theverge+2

"Ihr Wert hängt davon ab, dass die Mitglieder ihr eigenes Urteilsvermögen einsetzen und unseres herausfordern können", so OpenAI in einem Blogbeitrag. Das Unternehmen stellte jedoch klar, dass die Gruppe "nicht dafür verantwortlich sein wird, uns bei der Gestaltung unseres internen Fortschritts in der Mathematik zu beraten".techcrunch+1

Einige Mathematiker stellten in Frage, ob das Gremium die breitere Gemeinschaft wirklich repräsentieren kann. "Es fühlt sich wie ein Elfenbeinturm an", sagte Francesco Fournier-Facio, ein angehender Professor an der Heriot-Watt University. Simon Machado, Forscher an der ETH Zürich, bezeichnete die Bildung des Gremiums als "in Geheimnisse gehüllt" und hinterfragte die Auswahl der Mitglieder.theverge

Wie es weitergeht

Die unmittelbarste Herausforderung der Gruppe könnte die größte sein. Neben der Ankündigung des Beratungsgremiums gab OpenAI bekannt, dass dasselbe unveröffentlichte Modell "mehr als 100 langjährige offene Probleme in den meisten Bereichen der Mathematik gelöst" habe. Das Gremium erklärte, die Koordinierung der Veröffentlichung dieser Ergebnisse habe oberste Priorität.indiatoday+2

Martin Hairer, ein Mitglied des Gremiums und Fields-Medaillen-Gewinner, schrieb in einem Blogbeitrag, die Gruppe sei gebildet worden, weil KI-Unternehmen "einige hochkarätige mathematische Ergebnisse produzieren", deren "Veröffentlichung und Verbreitung weit hinter akzeptabler mathematischer Praxis zurückgeblieben ist". Er warnte jedoch, dass die Mitglieder "sehr naiv wären, wenn sie glaubten, dass die KI-Labore nicht versuchen würden, alles, was wir sagen, so zu drehen, dass es ihrer PR-Maschine dient".theverge