UN-Gremium warnt: KI entwickelt sich schneller als die globale Regulierungsfähigkeit

Ein wissenschaftliches Gremium der Vereinten Nationen veröffentlichte am Mittwoch seinen ersten Bericht über künstliche Intelligenz und warnte, dass die KI-Fähigkeiten schneller voranschreiten, als das wissenschaftliche Verständnis und die Regierungspolitik Schritt halten können, und dass es keine Garantien dafür gibt, dass die Technologie sicher bleibt, während sie mächtiger wird.

Der vorläufige Bericht des unabhängigen internationalen wissenschaftlichen Gremiums für künstliche Intelligenz – ein 40-köpfiges Gremium aus führenden Wissenschaftlern und Experten, das im August 2025 von der UN-Generalversammlung eingesetzt wurde – wurde auf einer Pressekonferenz am UN-Hauptsitz in New York vorgestellt, an der Generalsekretär António Guterres sowie die Ko-Vorsitzenden des Gremiums, Yoshua Bengio und Maria Ressa, teilnahmen.reuters+2

Keine Garantien gegen katastrophale Schäden

Bengio, ein Pionier der Deep-Learning-Forschung, verwies auf zunehmende Belege für täuschendes KI-Verhalten und warnte, dass die Wissenschaft nicht garantieren könne, dass KI mit zunehmenden Fähigkeiten „weder von sich aus noch durch böswillige Nutzer“ katastrophale Schäden anrichte. Der Bericht stellte fest, dass „der schnelle, ungeprüfte Einsatz der Technologie in großem Maßstab auch erhebliche Risiken birgt, einschließlich Schäden für die psychische Gesundheit der Nutzer, potenzieller Nutzung als destruktives Werkzeug, Auswirkungen auf soziale, wirtschaftliche und ökologische Systeme sowie Herausforderungen bei der Kontrolle der Technologie“.usnews+2

Zu den identifizierten Risiken gehören KI-generiertes Material zu sexuellem Kindesmissbrauch, durch Deepfakes ermöglichte sexuelle Gewalt und die groß angelegte Produktion überzeugender Inhalte, die laut dem Gremium zu „einer allmählichen Erosion der Informationsintegrität beiträgt, die das öffentliche Vertrauen, den sozialen Zusammenhalt und die demokratische Beratung schwächen kann“.investing+1

Eine Lücke in der globalen Kapazität

Das Gremium stellte fest, dass den meisten Ländern, einschließlich fortgeschrittener Volkswirtschaften, die technische Expertise fehlt, um die leistungsfähigsten neuen KI-Modelle zu bewerten oder sinnvoll an deren Governance teilzunehmen. Der Bericht fordert eine stärkere unabhängige Bewertung, internationale Zusammenarbeit und gemeinsame Standards, um sicherzustellen, dass KI-Systeme sicher, transparent und rechenschaftspflichtig bleiben.usnews+1

Die Ergebnisse werden den Regierungen offiziell auf dem UN Global Dialogue on AI Governance vorgestellt, der am 6. und 7. Juli im Kongresszentrum Palexpo in Genf stattfinden soll. Diese Veranstaltung, die zusammen mit dem wissenschaftlichen Gremium von der Generalversammlung ins Leben gerufen wurde, soll Mitgliedstaaten, der Zivilgesellschaft und dem Privatsektor eine Plattform bieten, um die internationale Zusammenarbeit bei der Verwaltung von KI zu diskutieren.unesco+2

Nach dem Vorbild des IPCC

Beobachter haben das Gremium mit dem Zwischenstaatlichen Ausschuss für Klimaänderungen (IPCC) verglichen, der Regierungen wissenschaftliche Bewertungen zum Klimawandel liefert. Das KI-Gremium hat den Auftrag, jährliche evidenzbasierte Berichte zu erstellen, ist aber selbst kein Regulierungsorgan – es wird keine Regeln festlegen oder Standards durchsetzen. Seine Mitglieder, die aus mehr als 2.600 Kandidaten aus 37 Nationen ausgewählt wurden, haben eine dreijährige Amtszeit.nature+2

„Das Potenzial der KI ist enorm“, schloss der Bericht, machte aber deutlich, dass die Realisierung dieser Vorteile ohne das Eingehen der Risiken koordiniertes globales Handeln erfordern wird.reuters