Anthropic-Mitgründer fordert verpflichtenden KI-Notaus

Jack Clark, Mitgründer von Anthropic, sagte am Montag gegenüber der BBC, dass Regierungen in Betracht ziehen sollten, KI-Unternehmen zur Implementierung unabhängig verifizierbarer "Notaus-Schalter" in ihren Systemen zu verpflichten. Dies verleiht der wachsenden Besorgnis innerhalb der Branche über das Tempo der Entwicklung künstlicher Intelligenz regulatorisches Gewicht.bbc

Clark erklärte, dass zwar die meisten großen KI-Labore, einschließlich Anthropic, bereits über interne Mechanismen zur Abschaltung ihrer Software verfügen, freiwillige Schutzmaßnahmen jedoch möglicherweise nicht ausreichen. "Sollten Unternehmen verpflichtet werden, einen Notaus-Schalter zu haben? Unterliegt dieser Schalter der Überprüfung durch eine dritte Partei?", fragte Clark im Interview und bezeichnete diese Fragen als zentral für den "breiteren politischen Dialog" rund um KI.bbc

Eine Woche der Warnungen

Die Äußerungen markieren den Höhepunkt einer turbulenten Phase für Anthropic und den gesamten KI-Sektor. Am 8. September erklärte der Anthropic-Forscher Evan Hubinger öffentlich, er halte eine Wahrscheinlichkeit von über 10 Prozent für das Aussterben der Menschheit durch KI innerhalb des nächsten Jahrzehnts für möglich – eine Einschätzung, die der Nobelpreisträger Geoffrey Hinton gegenüber der BBC als "nicht unvernünftig" bezeichnete. Diese Kommentare folgten auf den Rücktritt des Forschers Jacob Coxon, der KI-Labore beschuldigte, "in einem Wettlauf direkt auf eine sich selbst verbessernde Superintelligenz zuzusteuern und mit unserem Leben zu spielen".bbc+2

Am Samstag veröffentlichte Anthropic-CEO Dario Amodei einen 3.800 Wörter umfassenden Essay, in dem er eine allgemeine Verlangsamung der Entwicklung von KI-Fähigkeiten forderte und argumentierte, die Branche benötige "ein bis zwei zusätzliche Jahre", um Schutzmaßnahmen zu implementieren. Der Essay erhielt umgehend Unterstützung von OpenAI-CEO Sam Altman, Elon Musk und dem Vorsitzenden von Google Alphabet Inc. ↘ 1.24% DeepMind, Demis Hassabis. Präsident Donald Trump wies die Warnungen am Sonntag zurück, verglich die Kritiker mit "sehr negativen Kräften" und betonte, dass die Vereinigten Staaten ihren technologischen Vorsprung wahren müssten.cbc+2

Börsengang in Aussicht

Clarks Vorstoß für eine Regulierung erfolgt zu einem kommerziell brisanten Zeitpunkt für Anthropic, das sich auf einen Börsengang bereits im Oktober vorbereitet. Laut Financial Times erwarten Investoren eine Bewertung von rund 2 Billionen Dollar – was den größten Börsengang der Geschichte bedeuten würde. Investoren teilten der FT mit, dass der annualisierte Umsatz von Anthropic bis Ende 2026 voraussichtlich zwischen 100 und 120 Milliarden Dollar erreichen werde, was einer mehr als zehnfachen Steigerung im Laufe des Jahres entspräche.qz+1

Clark räumte das Spannungsfeld zwischen der Forderung nach Einschränkungen und dem Agieren in einem hart umkämpften Markt ein. Er warnte davor, dass es ein gefährlicher Weg sei, KI als "völlig unregulierte Branche" zu belassen. "Wir spielen mit enormen Risiken", sagte er. "Der Punkt ist, dass wir die Entwicklung dieser Branche verändern müssen".bbc