UN-Chef fordert Verbot von „Killer-Robotern“ beim ersten globalen KI-Dialog

UN-Generalsekretär António Guterres warnte am Montag, dass die künstliche Intelligenz „mit rasender Geschwindigkeit voranschreitet“, und forderte umfassende globale Governance-Maßnahmen – einschließlich eines Verbots tödlicher autonomer Waffen und neuer Schutzmaßnahmen für Kinder –, während 193 Nationen in Genf zum ersten globalen Dialog zur KI-Governance zusammenkamen.un+1

Eine Technologie, die „schneller eingesetzt wird, als irgendjemand Schritt halten kann“

„Es wird ein Experiment an unseren eigenen Gesellschaften durchgeführt – ohne Plan und ohne Zustimmung“, sagte Guterres zu den Delegierten im Kongresszentrum Palexpo bei der Eröffnung des zweitägigen Forums, das von der UN-Generalversammlung im August 2025 eingerichtet wurde. Der erste Dialog, der von der Botschafterin Egriselda López aus El Salvador und dem Botschafter Rein Tammsaar aus Estland geleitet wird, findet parallel zum World Summit on the Information Society Forum und dem später in dieser Woche stattfindenden AI for Good Global Summit der ITU statt.itu+3

Guterres stützte seine Rede auf einen vorläufigen Bericht des unabhängigen internationalen wissenschaftlichen Gremiums für KI, einer Gruppe von 40 Experten, die „drei Warnungen“ bezüglich der Geschwindigkeit der Technologie, der Machtkonzentration bei einer Handvoll Unternehmen und Ländern sowie der Fähigkeit der KI, die Wahrheit zu untergraben, aussprach. „Eine maschinell erzeugte Lüge kann heute genauso überzeugend wirken wie die Wahrheit – und authentische Beweise können als Fälschung abgetan werden“, sagte er.un

Kinderschutzversprechen und „Killer-Roboter“

Zu seinen konkretesten Vorschlägen gehört das „AI Child Safety Pledge“, das Unternehmen dazu verpflichtet, vor dem Einsatz kinderspezifische Sicherheitstests durchzuführen, eine Null-Toleranz-Politik gegenüber KI-generierten sexuellen Missbrauchsbildern durchzusetzen und sicherzustellen, dass Systeme Kinder in Not mit menschlicher Unterstützung verbinden. „Kein Kind sollte ein Versuchskaninchen für unregulierte KI sein“, sagte er.arabnews+1

Guterres forderte zudem ein internationales rechtliches Verbot der von ihm als „Killer-Roboter“ bezeichneten tödlichen autonomen Waffensysteme, die Ziele ohne menschliche Kontrolle auswählen und angreifen. „Das ist moralisch abstoßend. Es ist politisch inakzeptabel. Und es muss durch internationales Recht verboten werden“, sagte er und drängte die Staaten, nicht „auf Gräueltaten zu warten, um zu handeln“.un+1

Die Bedingungen für die Zukunft festlegen

Der Generalsekretär skizzierte vier Prioritäten: gemeinsame Sicherheitsstandards für bahnbrechende KI-Systeme, feste rote Linien für Menschenrechte, erweiterte KI-Kapazitäten für Entwicklungsländer und ökologische Transparenz seitens großer KI-Unternehmen. Er kündigte zudem Pläne an, der Generalversammlung einen globalen KI-Fonds vorzuschlagen, der darauf abzielt, Rechenleistung und Fähigkeiten weltweit aufzubauen, und gab bekannt, dass mehr als 20 Mitgliedstaaten bereits Zentren für ein neues, von der UN unterstütztes globales Netzwerk zum Aufbau von KI-Kapazitäten nominiert haben.un

„Wir sind möglicherweise die letzte Generation, die in der Lage ist, die Bedingungen festzulegen, unter denen Mensch und Maschine koexistieren“, sagte Guterres. „Die Tür steht noch offen. Aber sie wird nicht lange offen bleiben.“un