Anthropic beschuldigt Alibaba des bisher größten bekannten Angriffs auf Claude AI

Anthropic hat Alibaba ↗ 3.53% beschuldigt, eine massive Operation zur illegalen Extraktion von Fähigkeiten aus seinem KI-Modell Claude durchgeführt zu haben. Laut einem Brief, der Reuters vorliegt, handelt es sich dabei um den bisher größten bekannten Destillationsangriff gegen das Unternehmen.globalbankingandfinance

In dem Schreiben, das an US-Senatoren und Beamte des Weißen Hauses gerichtet war, behauptete Anthropic, dass Betreiber, die mit Alibabas Qwen-KI-Labor in Verbindung stehen, fast 25.000 betrügerische Konten nutzten, um zwischen April und Juni 28,8 Millionen Interaktionen mit Claude zu generieren, wobei regionale Beschränkungen und Nutzungsbedingungen umgangen wurden.investing+1

Ein bekanntes Vorgehen in größerem Maßstab

Die Anschuldigung folgt einem Muster, das Anthropic erstmals im Februar öffentlich dokumentierte, als es drei andere chinesische KI-Labore – DeepSeek, Moonshot AI und MiniMax – beschuldigte, „Kampagnen im industriellen Maßstab“ mit 24.000 betrügerischen Konten und 16 Millionen Anfragen durchgeführt zu haben, um Claudes Fähigkeiten in ihre eigenen Modelle zu destillieren. Die mit Alibaba verbundene Operation scheint diese früheren Bemühungen sowohl im Volumen als auch in der Komplexität in den Schatten zu stellen.wsj+2

Destillation beinhaltet das Senden einer großen Anzahl sorgfältig erstellter Prompts, um die Schlussfolgerungsmuster und Ausgaben eines Modells zu extrahieren, die dann verwendet werden können, um konkurrierende Systeme zu einem Bruchteil der ursprünglichen Entwicklungskosten zu trainieren. Anthropic erklärte, die Kampagne habe auf die wertvollsten Funktionen von Claude abgezielt, einschließlich Software-Engineering und agentischer Schlussfolgerungsfähigkeiten.cyberscoop+1

Eskalierende Spannungen bei der KI-Sicherheit

Die Anschuldigung fällt in eine Zeit erhöhter Spannungen zwischen Anthropic und der Trump-Regierung in Bezug auf KI-Sicherheit. Anfang des Monats verhängte das Handelsministerium Exportkontrollen, die Anthropic dazu verpflichten, den Zugang zu seinen neuesten Modellen, Fable 5 und Mythos 5, auf US-Bürger zu beschränken – ein Schritt, der teilweise mit Bedenken hinsichtlich des chinesischen Zugangs zu fortschrittlichen KI-Systemen zusammenhängt. Anthropic reagierte darauf, indem es beide Modelle vollständig vom Markt nahm.semafor+3

Anthropic bietet in China keinen kommerziellen Zugang zu Claude an, was die angebliche Nutzung betrügerischer Konten und Proxy-Dienste für jede groß angelegte Extraktionsbemühung notwendig macht. Das Unternehmen hat zuvor gewarnt, dass eine solche Destillation nationale Sicherheitsrisiken birgt, da extrahierte Fähigkeiten offensive Cyberoperationen befeuern könnten.anthropic+1

Markt- und politische Auswirkungen

Die Aktien von Alibaba fielen nach Berichten über die Anschuldigung um etwa 3 %. Die Enthüllung dürfte die Prüfung des chinesischen Zugangs zu amerikanischen KI-Systemen durch Washington intensivieren, eine Sorge, die in den letzten Monaten bereits zu Exportkontrollen und parteiübergreifender Aufmerksamkeit im Kongress geführt hat. Anthropic bezeichnete die Alibaba-Operation als die bisher bedeutendste Bemühung einer chinesischen Einheit, die Fortschritte führender US-Forschungslabore auszunutzen.benton+3