EU-Spitzenpolitikerin fordert globale KI-Regeln nach Aussterbe-Warnungen

Die Exekutiv-Vizepräsidentin der Europäischen Kommission, Henna Virkkunen, forderte am Freitag globale Regeln für künstliche Intelligenz, nur wenige Tage nachdem Forscher führender KI-Labore öffentlich davor gewarnt hatten, dass die Technologie innerhalb eines Jahrzehnts zum Aussterben der Menschheit führen könnte.

"Es ist sehr wichtig, dass wir die internationale Zusammenarbeit jetzt fortsetzen, denn ich sehe, dass globale Regeln wirklich gebraucht werden", sagte Virkkunen am Rande einer Konferenz zur Sicherheit von Kindern im Internet in Dublin, wie Politico Europe berichtete.politico

Forscherwarnungen erhöhen den Druck

Der Vorstoß für eine internationale Koordinierung erfolgt nach einer außergewöhnlichen Reihe öffentlicher Warnungen von KI-Insidern. Jacob Coxon, ein ehemaliger Ingenieur, der drei Jahre lang an der Vortrainingsforschung bei OpenAI und Anthropic gearbeitet hatte, kündigte am Dienstag bei Anthropic und postete auf X, dass "keines der Unternehmen verantwortungsbewusst handelt".axios+1

"Sie rasen direkt auf eine sich selbst verbessernde Superintelligenz zu und spielen mit unserem Leben", schrieb Coxon. "Die Leute, die KI bauen, glauben ernsthaft, dass sie uns alle bis Ende des Jahrzehnts töten könnte".nypost+1

Evan Hubinger, Leiter der Alignment-Forschung bei Anthropic, antwortete öffentlich, er glaube "persönlich, dass die Wahrscheinlichkeit bei >10 % innerhalb des nächsten Jahrzehnts liegt", und fügte hinzu, dass das Unternehmen "noch keinen Plan hat, um das Alignment-Problem für Superintelligenz zu lösen". Samuel Marks, Leiter für skalierbare Überwachung bei Anthropic, schloss sich den Bedenken an und sagte: "Im Allgemeinen gilt: Je erfahrener der Mitarbeiter, desto besorgter ist er".bbc+1

Die Warnungen lösten laut Anadolu Agency Forderungen von mindestens 22 amtierenden US-Beamten nach Regulierung, Anhörungen im Kongress und in einigen Fällen nach einer Entwicklungspause aus.aa

EU sieht AI Act als Vorlage

Virkkunen merkte an, dass die EU bereits über Gesetze verfügt, die Unternehmen, einschließlich Anthropic und OpenAI, dazu verpflichten, das Risiko eines Kontrollverlusts über KI-Modelle zu bewerten und zu mindern, dass solche Anforderungen jedoch global nicht existieren. Der EU AI Act trat im August 2024 in Kraft und ist seit August 2026 weitgehend anwendbar.ua+2

Der Ruf nach internationaler Koordinierung steht im Einklang mit breiteren europäischen diplomatischen Bemühungen. Im Juni drängte Kommissionspräsidentin Ursula von der Leyen auf dem G7-Gipfel in Frankreich auf eine Zusammenarbeit zwischen EU und USA im Bereich KI, während sich der deutsche Digitalminister Carsten Wildberger für eine internationale KI-Sicherheitsbehörde nach dem Vorbild der Internationalen Atomenergie-Organisation ausgesprochen hat.ua

Der US-Botschafter bei der EU, Andrew Puzder, signalisierte Unterstützung für eine transatlantische KI-Partnerschaft, warnte jedoch vor Regulierungen, die die Wettbewerbsfähigkeit amerikanischer Firmen gegenüber China schwächen könnten.ua