Anthropic-Mitgründer: Gesetzliche «Not-Aus»-Pflicht für KI könnte nötig sein

Der ehemalige Anthropic- und OpenAI-Forscher Jacob Coxon, dessen Rücktritt letzte Woche für Aufsehen in der Technologiebranche sorgte, sagte gegenüber NBC News' Meet the Press, dass die Abschaltung von KI-Systemen zwar heute technisch möglich sei, dieses Zeitfenster sich jedoch bald schließen könnte. Seine Warnung erfolgte zeitgleich mit der Aussage von Anthropic-Mitgründer Jack Clark gegenüber der BBC, dass ein von Dritten verifizierter «Not-Aus»-Schalter für KI-Unternehmen gesetzlich vorgeschrieben werden könnte.bbc

Coxon, der am 9. September bei Anthropic kündigte und schrieb, dass «die Menschen, die KI bauen, ernsthaft glauben, dass sie uns alle bis Ende des Jahrzehnts töten könnte», nutzte das Wochenende für mehrere Medienauftritte, um den Aufruf von Anthropic-CEO Dario Amodei zur Verlangsamung der KI-Entwicklung zu unterstützen. Am Samstag sagte er bei Meet the Press, dass ein Not-Aus «derzeit wahrscheinlich bei vielen KIs funktionieren würde», warnte jedoch, dass «sehr bald die Möglichkeit besteht, dass der Not-Aus einfach nicht mehr funktioniert, weil ein Schwarm einen internetweiten Hackerangriff gestartet haben könnte».thestatesman+2

Branchenführer fordern Zurückhaltung

Coxons öffentliche Kampagne hat zu einer ungewöhnlichen Einigkeit unter ansonsten harten Konkurrenten geführt. Amodei schlug am Wochenende ein dreiteiliges Sicherheitskonzept vor, das permanente externe Prüfer in KI-Unternehmen, gemeinsame Sicherheitsstandards demokratischer Nationen und internationale Koordination umfasst. OpenAI-CEO Sam Altman, Elon Musk und Google Alphabet Inc. ↗ 3.06% DeepMind-CEO Demis Hassabis unterstützten den allgemeinen Ruf nach Zurückhaltung.ciodive+1

Microsoft ↗ 1.97%-CEO Satya Nadella schloss sich an und schrieb auf X, dass «jedes Streben nach Superintelligenz auf dem Grundprinzip basieren muss, dass eine KI, die der Menschheit nicht hilft und nicht unter menschlicher Kontrolle steht, es nicht wert ist, verfolgt zu werden». Nadella befürwortete eingebettete Prüfer und forderte eine Governance, die über «eine Handvoll Akteure» hinausgeht.thestatesman+1

Debatte über Not-Aus erreicht die Politik

Clark sagte der BBC, dass zwar «die meisten Labore über verschiedene Methoden verfügen, um ihre Systeme zu deaktivieren», Regulierungsbehörden solche Maßnahmen jedoch möglicherweise vorschreiben müssen. In den USA haben Gesetzgeber den «Kill Switch Act» vorgeschlagen, der Unternehmen zur Implementierung von Abschaltmechanismen verpflichten und Regierungsbehörden die Befugnis geben würde, die Deaktivierung bestimmter Tools zu fordern.bbc

Der Anthropic-Forscher Evan Hubinger unterstrich die Dringlichkeit der Debatte und erklärte öffentlich, er halte die Wahrscheinlichkeit, dass KI das Aussterben der Menschheit verursacht, für «größer als 10 Prozent innerhalb des nächsten Jahrzehnts». Nobelpreisträger Geoffrey Hinton nannte diese Einschätzung «nicht unvernünftig».bbc

Nicht alle stimmen dem zu. Präsident Donald Trump veröffentlichte am Montag eine Erklärung, in der er sich gegen die Forderung nach einer Verlangsamung aussprach und warnte, dies könne die amerikanische Wettbewerbsfähigkeit untergraben. Auch die britische Regierung hat einen Not-Aus-Schalter abgelehnt; ein Sprecher erklärte, er «würde die Entwicklung oder den Missbrauch anderswo nicht verhindern».ciodive+1

Für Coxon ist das Argument einfacher. «Meine persönliche Meinung wäre, darauf zu bestehen und zuzulassen, dass sich die derzeitigen Labore selbst regulieren», sagte er gegenüber NBC News. «Ich glaube wirklich, dass die Leute, die die Labore leiten, besonders nach ihren jüngsten Äußerungen, absolut aufrichtig sind. Sie würden sich gerne selbst bremsen».economictimes