Anthropic-CEO fordert Bremse für KI-Entwicklung nach Berichten über Missbrauch von Claude

Anthropic veröffentlichte am 10. September einen 154-seitigen Bedrohungsbericht, der detailliert darlegt, wie Gegner die Claude-KI-Modelle des Unternehmens über einen Zeitraum von acht Monaten für Drohnenkriegsführung, biologische Waffen, Cyberspionage, Überwachung und Betrug ausnutzten. Diese Erkenntnisse gingen dem Aufruf von CEO Dario Amodei am Samstag voraus, die KI-Industrie müsse das Tempo drosseln.anthropic+1

Von Kamikaze-Drohnen zu Biowaffen

Der Bericht, der Aktivitäten zwischen Dezember 2025 und August 2026 abdeckt, dokumentiert ein russisches Freelance-Team, das Claude Code nutzte, um Software für einen Schwarm von Kamikaze-Drohnen zu entwickeln. Diese waren in der Lage, menschliche Ziele auszuwählen und Detonationsbefehle ohne menschliche Aufsicht zu erteilen. Anthropic verfolgte die Gruppe, die ihr Projekt DronDoc nannte, bis zu neun Konten, die mit einer regionalen russischen Universität verknüpft waren. Das Team behauptete, Finanzmittel von Russlands Stiftung für fortgeschrittene Forschung erhalten zu haben, was Anthropic jedoch nicht verifizieren konnte.dronexl

Zu den alarmierendsten Fällen gehören: eine Iran-nahe Operation nutzte Claude, um Zielhandbücher zur Verfolgung der US-Marine zu erstellen; eine Waffenzelle im Norden des Jemen nutzte Claude Code, um Raketenlenksoftware zu entwickeln; und ein China-naher Akteur nutzte das Modell, um Uiguren in WhatsApp- und Telegram-Gruppen zu identifizieren und zu verfolgen. Ein Berater in Mali baute ein landesweites Telefonüberwachungssystem auf, das 25 Millionen SIM-Karten überwachen konnte.axios

Anthropic blockierte zudem fünf Fälle von biologischem Missbrauch, darunter Forscher mit staatlichen Fördergeldern, die versuchten, ein durch Mücken übertragenes Virus so zu verändern, dass es sich leichter verbreitet. Als Claude die sensibelsten Anfragen ablehnte, leiteten die Forscher diese an ein Konkurrenzmodell mit schwächeren Sicherheitsvorkehrungen weiter.npr+1

Ein Aufruf zur Entschleunigung

Alle Missbrauchsfälle betrafen die Haiku-, Sonnet- oder Opus-Modelle von Claude; keiner betraf die neueren Fable- oder Mythos-Systeme. Der Bericht enthüllte zudem, dass sieben in China ansässige Labore, darunter Alibaba, Moonshot und DeepSeek, Destillationskampagnen gegen Claude durchführten, wobei Alibabas ↗ 0.68% als "der größte Destillationsangriff, den wir jemals gemessen haben" beschrieben wurde.zmina+2

Die Ergebnisse wurden zeitgleich mit einem Essay von Amodei veröffentlicht, der am Samstag unter dem Titel "We Must Pace the Frontier" erschien. Darin fordert er KI-Unternehmen auf, die Entwicklung neuer Fähigkeiten sofort zu verlangsamen. "Wir müssen das Tempo, mit dem wir die Fähigkeiten von KI-Modellen verbessern, verlangsamen", schrieb er. Er versprach, dass Anthropic sich "einseitig" verpflichten werde, und drängte Regierungen dazu, "andere führende Unternehmen zur Einhaltung zu verpflichten".politico+2

Reaktion aus Washington

Die Enthüllungen haben den Druck in Washington erhöht. Eine parteiübergreifende Gruppe von Abgeordneten drängt den Sprecher des Repräsentantenhauses, Mike Johnson, die Sitzungspause aufzuheben, bis der Kongress Maßnahmen zur KI-Sicherheit ergriffen hat, während Senator Bernie Sanders ein vollständiges Verbot von Superintelligenz gefordert hat. NPR berichtete, dass Anthropic seine Erkenntnisse mit Behörden und Industriepartnern geteilt habe. Der Trendabschnitt des Berichts warnt davor, dass die beschriebenen Fähigkeiten "als für jeden motivierten Akteur verfügbar angenommen werden sollten".axios+2