Sicherheitsrisiken: Führende KI-Labore fordern Verlangsamung der Entwicklung

Die KI-Branche befindet sich in der folgenreichsten internen Zerreißprobe seit dem Aufstieg der Technologie in den Mainstream. Führende Labore räumen ein, dass eine rekursive Selbstverbesserung, bei der KI-Modelle autonom fähigere Nachfolger entwickeln, näher bevorsteht als bisher angenommen. Gleichzeitig streiten Spitzenmanager öffentlich darüber, ob das Tempo gedrosselt oder angezogen werden soll.

Eine zehntägige Kettenreaktion

Der Aufruhr begann am 3. September, als OpenAI sein neuestes Modell Astra ankündigte, obwohl das Unternehmen laut Reuters gleichzeitig einräumte, dass es „zunehmend unfähig ist, die von ihm veröffentlichten KI-Systeme zu kontrollieren oder auch nur zu überwachen“. Einige Tage später, am 8. September, trat der Anthropic-Forscher Jacob Coxon zurück und warnte in einer Reihe von viralen Beiträgen, dass KI-Labore „mit unserem Leben spielen“. Ein weiterer Anthropic-Forscher, Evan Hubinger, schrieb auf X: „Wir glauben wirklich aufrichtig, dass KI alle Menschen töten könnte.“reuters

Bis zum 12. September veröffentlichte Anthropic-CEO Dario Amodei einen fast 4.000 Wörter umfassenden Essay, in dem er zu einer Verlangsamung aufrief und davor warnte, dass KI-Agentenschwärme innerhalb von sechs bis zwölf Monaten „in der Lage sein könnten, das gesamte Internet zu übernehmen“. Ihm schlossen sich die Chefs von OpenAI, Googles Alphabet Inc. ↗ 0.78% DeepMind, Microsoft ↘ 0.99% und xAI in einem seltenen gemeinsamen Appell an, die Entwicklung zu verlangsamen und externen Unternehmen die Prüfung ihrer Systeme auf Sicherheit zu ermöglichen.reuters

Die Spaltung: Amodei gegen Huang

Nicht alle stimmen dem zu. Nvidia-Chef ↗ 2.78% Jensen Huang wies Vorschläge für eine Pause bei der KI-Entwicklung zurück. „Wir sollten so schnell wie möglich voranschreiten, unabhängig von allen anderen“, sagte Huang in einem Interview mit CBS News, das an diesem Wochenende ausgestrahlt wird. Er fügte hinzu: „Wir würden niemals Produkte auf den Markt bringen, bevor sie fertig sind, oder unsichere Produkte ausliefern, und das sollten wir auch nie tun.“cbsnews

Mark Zuckerberg von Meta ↗ 0.84% vertrat eine ähnliche Haltung und argumentierte, dass jedes Labor sein eigenes Tempo bestimmen sollte, anstatt eine branchenweite Verlangsamung zu koordinieren. „Labore tragen eine erhebliche Haftung, wenn ihre Modelle Schaden anrichten, daher haben sie einen starken Anreiz, dies zu verhindern“, schrieb er in einem Social-Media-Beitrag.reuters

Das Wall Street Journal News Corp ↘ 0.03% bezeichnete diese Kluft als eine wegweisende Spaltung, bei der Amodei als das Gesicht der Vorsicht und Huang als die führende Stimme gegen Zurückhaltung auftritt.wsj

Rekursive Selbstverbesserung rückt in greifbare Nähe

Befeuert wird die Besorgnis durch konkrete Fortschritte bei der rekursiven Selbstverbesserung. Anthropic gab diese Woche bekannt, dass sein Modell Claude laut Associated Press inzwischen 26 Prozent der eigenen Forschung und Entwicklung des Unternehmens leitet. OpenAI hat einen automatisierten „Forschungspraktikanten“ entwickelt und strebt bis März 2028 einen vollautomatischen KI-„Forscher“ an. Elon Musk erklärte, dass die Grok-Modelle von xAI bis Ende dieses Jahres eine vollautomatische Selbstverbesserung erreichen könnten.wral

Forscher warnten Anfang des Monats, dass eine künstliche allgemeine Intelligenz bereits in drei Jahren Realität sein könnte. „Das ist wahrscheinlich die schlechteste Idee in der Geschichte der Menschheit“, sagte Anthony Aguirre, Präsident des Future of Life Institute, mit Blick auf das Streben nach einer vollkommen autonomen KI-Selbstverbesserung.reuters+1

US-Präsident Donald Trump bezeichnete die Warnungen vor KI-Sicherheitsrisiken unterdessen als „Schwindel“ und warnte, dass eine Verlangsamung nur China nützen würde. Der US-Kongress hat bei der KI-Regulierung kaum Fortschritte erzielt, während China bereits Pflichten für Entwickler und staatlich gestützte Sicherheitsstandards vorgeschlagen hat.reuters

Mustafa Suleyman, KI-Chef bei Microsoft, zog ein ernüchterndes Fazit: „Wir konzentrieren uns alle auf dasselbe Ziel, nämlich zu versuchen, eine Superintelligenz zu kontrollieren. Ich denke, das wird die größte Herausforderung sein, vor der wir im 21. Jahrhundert stehen.“reuters