KI-Chefs uneins über Entwicklungstempo vor UN-Sicherheitsrat

OpenAI-CEO Sam Altman wird am Mittwoch während der UN-Generalversammlung in New York vor dem UN-Sicherheitsrat sprechen, während sich ein wachsender Riss unter den Führungskräften der KI-Industrie über das Entwicklungstempo auf die globale Bühne verlagert.reuters+1

Die Sitzung, die von Frankreich unter seiner rotierenden Präsidentschaft einberufen wurde und unter dem Vorsitz des französischen Außenministers Jean-Noël Barrot steht, findet Wochen nach der Veröffentlichung des Essays "We Must Pace the Frontier" von Anthropic-CEO Dario Amodei statt, der die Debatte über KI-Sicherheit neu geprägt hat. Altmans Ausführungen sollen sich auf internationale Koordination und gemeinsame Sicherheitsstandards konzentrieren, teilte ein Sprecher von OpenAI gegenüber Reuters mit.finance.yahoo+3

Ein Drei-Stufen-Plan zur KI-Verlangsamung

Amodeis Essay vom 12. September argumentierte, dass sich der KI-Fortschritt seit Sommer 2026 "drastisch schneller" beschleunigt habe, angetrieben durch die wachsende Fähigkeit der KI, die nächste Generation von KI-Systemen selbst zu entwickeln. Er schlug einen Drei-Stufen-Plan vor: die Einbettung unabhängiger Prüfer von Drittanbietern in jedes führende Labor, die Koordinierung von Sicherheitsstandards zwischen KI-Unternehmen in demokratischen Nationen und schließlich die Etablierung einer globalen Koordination unter Einbeziehung Chinas.bnnbloomberg+2

Altman unterstützte den Vorschlag auf X mit den Worten: "Ich stimme Dario zu, dass wir das Tempo an der Front drosseln müssen", und verpflichtete OpenAI dazu, unabhängigen Prüfern einen mit Mitarbeitern vergleichbaren Zugang zu gewähren und Berichte über unerwartetes KI-Verhalten zu veröffentlichen. Elon Musk unterstützte Amodei ebenfalls mit dem kurzen Kommentar: "Dario hat recht".reuters+1

Doch der Konsens ist keineswegs universell. Meta ↗ 1.02%-CEO Mark Zuckerberg argumentierte, dass Wettbewerb und Haftung den Unternehmen genügend Anreize böten, individuell für Sicherheit zu sorgen. Nvidia ↘ 1.47%-CEO Jensen Huang wies die Notwendigkeit neuer Regulierungen zurück und erklärte gegenüber CBS News, es gebe eine "0-prozentige Chance", dass das Jahr 2030 den Weltuntergang bringe, und forderte die Industrie auf, bestehende Haftungsgesetze anzuwenden.bnnbloomberg

Wachsender globaler Druck

UN-Generalsekretär António Guterres hat KI als eine von "drei existenziellen Bedrohungen" bezeichnet, denen die Welt gegenübersteht, neben der Klimakrise und zunehmender Ungleichheit. "Die Welt kann es sich nicht leisten, bei der KI-Sicherheit ein Wettrennen nach unten zu veranstalten", sagte er letzte Woche, nannte globale Zusammenarbeit "unverzichtbar" und warnte, dass freiwillige Pausen, die auf wenige Länder beschränkt seien, nicht funktionieren würden.news.un+2

Der britische König Charles empfing letzte Woche Führungskräfte von Nvidia, Google DeepMind Alphabet Inc. ↘ 3.58%, OpenAI und Anthropic im Dumfries House in Schottland und warnte vor "existenziellen Gefahren", falls KI in die falschen Hände gerate. Die Europäische Kommission unterstützte die Forderungen nach einer Pause, wobei Präsidentin Ursula von der Leyen ankündigte, führende Labore zu einer Risikodiskussion einzuladen.reuters+2

Nicht alle Regierungen teilen die Besorgnis. Präsident Donald Trump schrieb auf Truth Social, dass KI nur "einen STARKEN UND SMARTEN (hoher IQ!) PRÄSIDENTEN" brauche, und warnte, dass Zweifel an der KI-Entwicklung China in die Hände spielen würden. Die staatlich unterstützte chinesische Zeitung Global Times warf Amodei vor, er versuche, "Chinas KI-Entwicklung durch technologische Barrieren und regulatorische Monopole zu bremsen".bnnbloomberg

Die Sitzung des Sicherheitsrates am Mittwoch, die zweite dedizierte Sitzung des Gremiums zu KI-Risiken seit 2023, wird zeigen, ob sich der wachsende Ruf nach Vorsicht in mehr als nur Rhetorik übersetzen lässt.tbsnews+1