OpenAI-Chef Altman informiert UN-Sicherheitsrat über KI-Risiken

OpenAI veröffentlichte am Montag einen Vorschlag, der die Vereinigten Staaten dazu drängt, eine internationale Initiative zur Entwicklung globaler Sicherheits- und technischer Standards für fortschrittliche KI anzuführen. Das Unternehmen warnt, dass Untätigkeit dazu führen könnte, dass das Land zusehen muss, wie sich "ein fragmentiertes, ungleichmäßiges und von Konflikten geprägtes System um es herum festsetzt".thenextweb+1

Der Vorschlag, der sich auf KI-Modelle der nächsten Generation und rekursive Selbstverbesserung konzentriert – ein Prozess, bei dem KI-Systeme zunehmend Verantwortung für die Entwicklung ihrer eigenen Nachfolger übernehmen – fällt in eine Woche verstärkter KI-Diplomatie bei den Vereinten Nationen sowie zwischen Washington und Peking.

Standards, keine Lizenzen

Der Plan von OpenAI fordert gemeinsame Rahmenbedingungen, um KI-Fähigkeiten zu messen, den Umfang autonomer Forschung in KI-Unternehmen zu bewerten und gemeinsame Protokolle zur Meldung von Vorfällen mit einheitlichen Schweregraden zu etablieren. Das Unternehmen schlug vor, diese Bemühungen über das Center for AI Standards and Innovation des US-Handelsministeriums sowie das wachsende Netzwerk nationaler KI-Sicherheitsinstitute in Ländern wie Großbritannien, Japan, Frankreich und Kanada zu koordinieren.dig+1

Das Unternehmen betonte, dass die Standards "keine Lizenzen, obligatorischen Vorabprüfungen oder Genehmigungsanforderungen für KI-Modelle" darstellen würden, und überließ es den einzelnen Regierungen, wie sie diese in nationales Recht integrieren. OpenAI forderte zudem sichere Kommunikationskanäle zwischen Regierungen und Betreibern kritischer Infrastrukturen, um aufkommende Bedrohungen auszutauschen, und bezeichnete den Dialog zwischen den Vereinigten Staaten und China als "einen positiven Schritt".thenextweb+2

"Vollständig autonome RSI existiert heute nicht, und wir sollten sie nicht verfolgen, es sei denn und bis sie sicher durchgeführt werden kann", schrieb das Unternehmen.thenextweb

Eine ereignisreiche Woche für KI-Diplomatie

Der Vorschlag wurde inmitten einer Flut von Aktivitäten veröffentlicht. Finanzminister Scott Bessent sagte am Wochenende, dass die USA und China vereinbart hätten, einen bilateralen KI-Dialog zu führen, und Washington schlug Peking einen Mechanismus zur Meldung von KI-Vorfällen vor. Am Montag schrieb Präsident Donald Trump auf Truth Social, dass er eine lockere Regulierung von KI bevorzuge, und fügte hinzu: "Wer auch immer KI gewinnt, GEWINNT!" Bessent sagte separat, dass die Regierung KI-Laboren keinen Schutz vor Haftungsansprüchen gewähren werde.foxbaltimore+1

Am Dienstag warnte UN-Generalsekretär António Guterres vor der UN-Generalversammlung vor den Gefahren der KI und rief zur globalen Zusammenarbeit auf. Trump, der kurz darauf sprach, tat die Idee als "globalistisches Schema" ab und sagte laut Bloomberg, dass die USA KI in "Superintelligenz" umbenennen würden.thenextweb

Altman vor dem Sicherheitsrat

Sam Altman wird am Mittwochnachmittag den UN-Sicherheitsrat gemeinsam mit Anthropic-CEO Dario Amodei, dem KI-Forscher Yoshua Bengio und dem Hugging Face-CEO Clément Delangue informieren – es ist die erste Sitzung des Rates, die sich auf die Sicherheitsrisiken zunehmend leistungsfähiger KI konzentriert. Vertreter von OpenAI sagten, Altman werde sich als "pragmatischer Zentrist" positionieren, der gemeinsame Sicherheitsstandards fördert, ohne die Macht bei wenigen Unternehmen zu konzentrieren.thenextweb

Später in dieser Woche wird Altman an einem Staatsbankett im Weißen Haus für den chinesischen Präsidenten Xi Jinping teilnehmen, was unterstreicht, wie zentral KI für die Beziehungen zwischen den USA und China geworden ist.foxbaltimore+1