Experten: Moralische rote Linie bei Killerrobotern nach Drohnenangriff in Ukraine überschritten

Die Vereinten Nationen und das Internationale Komitee vom Roten Kreuz riefen die Regierungen am Dienstag in einem gemeinsamen Appell dazu auf, dringend verbindliche internationale Regeln für autonome Waffensysteme auszuhandeln. Sie warnten, dass die Welt «gefährlich nahe daran ist, eine moralische rote Linie zu überschreiten: das autonome Visieren von Menschen durch Maschinen.»icrc+1

Die Erklärung von UN-Generalsekretär António Guterres und IKRK-Präsidentin Mirjana Spoljaric erneuerte einen erstmals 2023 geäußerten Aufruf zu spezifischen Verboten und Einschränkungen autonomer Waffen, eine Frist, die die internationale Gemeinschaft versäumt hat.rte+1

Eine bereits überschrittene Linie

Doch Experten sagen, die moralische rote Linie sei bereits überschritten worden. Eine russische Molniya-Drohne, die am 6. Juli an einer Tankstelle im ukrainischen Saporischschja drei Zivilisten tötete, wurde laut einer am 24. August veröffentlichten Untersuchung der New York Times offenbar vollständig von künstlicher Intelligenz gesteuert. Die Drohne, ausgestattet mit einem Nvidia ↗ 2.78% Jetson Orin Minicomputer, flog ohne Funksteuerung und nutzte KI an Bord zur Zielauswahl: wahrscheinlich Propantanks, auf deren Erkennung sie trainiert worden war, nachdem menschliche Bediener sie in das allgemeine Zielgebiet gelenkt hatten.sofx+2

Die 19-jährige Studentin Tetiana Bubynets sowie Oleksiy Svirin (41) und Roman Karpiy (48) kamen ums Leben, als die Drohne in eine Wand in der Nähe ihres Unterstands krachte.sofx

«Die Waffen hatten keine Antenne für menschliche Steuerung und verfügten über einen leistungsfähigen Bordcomputer mit vortrainierten Zielkategorien», sagte Stuart Russell, Professor für Informatik an der UC Berkeley und Präsident der International Association for Safe & Ethical AI.latimes

Das Rennen um Regulierung

Die gemeinsame Erklärung forderte Verbote für zwei Kategorien autonomer Waffen: «unvorhersehbare» Systeme, deren Ergebnisse von den Bedienern nicht vorhergesagt werden können, und Antipersonenwaffen, die sich gezielt gegen Menschen richten. Die Organisationen verwiesen auf eine Konferenz im November in Genf zur Überprüfung des UN-Waffenübereinkommens als «den klarsten verfügbaren Weg» zu rechtsverbindlichen Regeln.spectrumlocalnews+2

Ryan Jenkins, außerordentlicher Professor an der Cal Poly, der die Ethik automatisierter Kriegführung erforscht, sagte, Aktivisten hätten das Rennen verloren, autonome Waffen zu verbieten, bevor sie sich im Kampf als nützlich erwiesen. «Sobald eine Waffe im Kampf eingesetzt wird und einen Vorteil bringt, wird es für Länder viel schwieriger, darauf zu verzichten», sagte er der Los Angeles Times.latimes

Das Center for Ethics and the Rule of Law der University of Pennsylvania wird im Oktober eine Konferenz veranstalten, um ethische und rechtliche Rahmenbedingungen für bewaffnete KI zu untersuchen. Das Zentrum wies darauf hin, dass die jüngste US-Politik, einschließlich der nationalen Sicherheitsdirektive von Präsident Trump vom Juni 2026 zur Beschleunigung der militärischen KI-Nutzung, der Debatte zusätzliche Dringlichkeit verliehen habe.penncerl