Aktien brechen ein: Anthropic- und OpenAI-Chefs fordern Bremse bei KI-Entwicklung

Ein gemeinsamer Aufruf der Leiter der beiden prominentesten Unternehmen für künstliche Intelligenz, das Tempo bei der Entwicklung fortschrittlicher KI zu drosseln, löste am Montag Schockwellen an den globalen Märkten aus. Dies vertieft den Graben zwischen Sicherheitsverfechtern im Silicon Valley und politischen Entscheidungsträgern, die den technologischen Vorsprung gegenüber China wahren wollen.

Der Aufruf zur Zurückhaltung

Anthropic-Chef Dario Amodei veröffentlichte am Samstag einen ausführlichen Essay, in dem er die KI-Branche aufforderte, die Entwicklung ihrer fortschrittlichsten Modelle zu verlangsamen. Er warnte, dass eine rekursive Selbstverbesserung, bei der KI-Systeme bessere Versionen ihrer selbst entwickeln können, "unsere Fähigkeit, diese Systeme zu verstehen und zu kontrollieren, übersteigen könnte und daher sehr vorsichtig, wenn überhaupt, verfolgt werden muss." OpenAI-Chef Sam Altman unterstützte den Vorschlag in einem Beitrag auf X und erklärte gegenüber Fortune, dass sein Unternehmen in diesem Jahr nicht an die Börse gehen werde, da die Sicherheit Vorrang habe.bloomberg+1

Die Ankündigungen folgten auf eine turbulente Woche, in der der ehemalige Anthropic-Forscher Jacob Coxon zurücktrat und öffentlich davor warnte, dass die Unternehmen ein Wettrennen zur Erschaffung einer "sich selbst verbessernden Superintelligenz" austragen. Evan Hubinger, Lead for Alignment Science bei Anthropic, antwortete darauf, dass er die Wahrscheinlichkeit, dass die Technologie "alle Menschen töten" könnte, auf mehr als 10 % schätzt.finance.yahoo

Anthropic verpflichtete sich dazu, externe Prüfer im Unternehmen einzubinden, um seine KI-Modelle zu bewerten und die Einhaltung von Sicherheitspraktiken zu überprüfen. The Wall Street Journal News Corp ↘ 3.58% berichtete, dass sich die Sicherheitsdebatte intern aufgebaut hatte, während beide Unternehmen jüngste technische Meilensteine feierten, darunter ein KI-Modell, das eines der mathematischen Millennium-Probleme löste.wsj+1

Marktreaktionen

Asiatische Aktien und US-Aktienfutures gaben am Montag nach, da Investoren die Auswirkungen einer gezielten Verlangsamung in der Branche abwägten, die einen Großteil der jüngsten Marktgewinne angetrieben hat. Die Papiere von SoftBank, einem der größten Geldgeber von OpenAI, fielen im Tokioter Handel um mehr als 10 %. Der Ausverkauf erfasste den gesamten Technologiesektor und unterstrich, wie stark jüngste Marktbewertungen von den Erwartungen schneller KI-Fortschritte abhingen.bloomberg

Trump weist Warnungen zurück

Präsident Trump wies die Sicherheitswarnungen am Sonntag zurück und sagte vor Journalisten, dass "sehr negative Kräfte" Dinge vorbringen, "die nicht passieren werden." Er ordnete die Debatte geopolitisch ein: "Wir führen gegenüber China bei KI. Wir sind das fortgeschrittenste Land der Welt, und ehrlich gesagt möchte ich, dass das so bleibt, denn wer KI gewinnt, gewinnt alles", berichtete Reuters.finance.yahoo

Die Spannung zwischen den Sicherheitsbedenken der Branche und den Wettbewerbsambitionen Washingtons lastet nun auf den geplanten Börsengängen beider Unternehmen. Altman bestätigte, dass der Börsengang von OpenAI verschoben ist, während der Börsengang von Anthropic weiterhin für diesen Herbst erwartet wird.bloomberg+1