Anthropic stoppt Missbrauch seiner KI für Biowaffenforschung

Anthropic hat am Donnerstag seinen bislang detailliertesten Bedrohungsbericht veröffentlicht. Daraus geht hervor, dass seine KI-Modelle in den vergangenen neun Monaten von staatlich unterstützten Hackern, kriminellen Gruppen und Forschern für Arbeiten im Zusammenhang mit biologischen Waffen genutzt wurden. Diese Enthüllung unterstreicht, wie rasant KI die Landschaft der Cyberkriminalität und der biologischen Sicherheitsrisiken verändert.

Der Bericht mit dem Titel „Detecting and Countering Misuse of AI: September 2026“ befasst sich mit Aktivitäten, die das Threat-Intelligence-Team des Unternehmens zwischen Dezember 2025 und August 2026 in sieben Schadenskategorien unterbunden hat. Dazu gehören Cyberoperationen, biologischer Missbrauch, Überwachung, Einflussoperationen und die Entwicklung konventioneller Waffen. Die Modelle Claude Haiku, Sonnet und Opus wurden allesamt ausgenutzt, wobei das Unternehmen betonte, dass keiner der Fälle seine neueren Modelle der Klassen Claude Fable oder Mythos betraf.techxplore+1

Biowaffenforschung im Visier

Zu den besorgniserregendsten Erkenntnissen gehört laut Anthropic die Identifizierung von Versuchen, Claude für Forschungsarbeiten zu nutzen, die die Entwicklung biologischer Waffen unterstützen könnten. In einem Fall ging es um eine Plattform für Virologen, die Gain-of-Function-Forschung am Chikungunya-Virus betrieben. Dabei wurden Anfragen über eine US-Infrastruktur geleitet, um regionale Sperren zu umgehen, und Dienste ohne Datenspeicherung genutzt, um die Inhalte zu verbergen. In einem anderen Fall griff ein Forscher aus einer nicht unterstützten Region auf Claude zu, um Anpassungsarbeiten der hochpathogenen Vogelgrippe an Säugetiere zu planen. Ein dritter Fall betraf den Entwurf eines Förderantrags für die Forschung an lebenden Orthopockenviren, der Familie, zu der auch die Pocken gehören, in einem Labor, das Anthropic als staatlich nahestehend beschrieb.theweek+1

„Es besteht seit langem die Sorge, dass KI-Modelle eines Tages so leistungsfähig sein könnten, dass sie dazu beitragen, bestehende Krankheitserreger gefährlicher zu machen oder völlig neue zu erschaffen“, erklärte das Unternehmen. Anthropic gab an, dass seine neuesten Modelle nun über strengere Sicherheitsvorkehrungen verfügen, die den Zugriff auf Anfragen zu biologischer Forschung mit doppeltem Verwendungszweck (Dual-Use) einschränken.theweek

Cyberoperationen werden autonomer

Der Bericht dokumentiert auch eine Verschiebung bei der Nutzung von KI für Cyberangriffe durch Bedrohungsakteure: weg von der KI als Assistent, hin zur KI als Orchestrator. In einem Fall automatisierte ein Akteur, der der mit dem russischen Staat in Verbindung gebrachten Gruppe Midnight Blizzard zugerechnet wird, fast jede Phase von Infiltrationskampagnen gegen ukrainische Regierungsstellen, europäische diplomatische Vertretungen und Lieferketten für Drohnentechnologie. Der Akteur nutzte Claude, um eine Phishing-Infrastruktur aufzubauen, Schadsoftware zur Umgehung der Erkennung zu modifizieren und Hunderte von Gigabyte an gestohlenen Daten auszuschleusen.anthropic

Eine weitere Gruppe finanziell motivierter Angreifer, die dem ShinyHunters-Kollektiv zugerechnet wird, nutzte Claude, um den massenhaften Datendiebstahl zu beschleunigen, und stahl Millionen von Zahlungskartendaten und Passagierdaten von mehreren Opfern. Anthropic stellte fest, dass KI „die Lücke bei Arbeitsaufwand und Werkzeugen“ zwischen staatlich unterstützten Operationen und einzelnen Hackern geschlossen hat, was bedeutet, dass hochentwickelte Angriffe keine hochentwickelten Angreifer mehr erfordern.anthropic

Zeitpunkt sorgt für Aufmerksamkeit

Die Veröffentlichung des Berichts erfolgte zwei Tage nach dem öffentlichen Rücktritt eines Anthropic-Forschers, der dem Unternehmen und seinen Konkurrenten laut BBC vorwarf, bei der KI-Entwicklung nicht verantwortungsvoll zu handeln. „In Fällen wie diesem müssen wir uns mit den ethischen Fragen auseinandersetzen“, sagte Kishan R, ein KI-Forscher aus Noida, Indien. „Wie bestimmen Unternehmen wie Anthropic und xAI, was eine sichere Nutzung ihrer KI-Modelle ausmacht? Dies ist eine demokratische Frage und keine unternehmerische“.bbc+1