Anthropic: Moonshot AI nutzte Claude heimlich für Modelltraining

Anthropic veröffentlichte am Donnerstag einen neuen Bericht, in dem das chinesische KI-Unternehmen Moonshot AI beschuldigt wird, heimlich fast 300 000 Nutzeranfragen an seine Claude-Modelle, insbesondere das Opus-Modell, weitergeleitet zu haben, ohne die Nutzer zu informieren. Die Antworten wurden anschließend genutzt, um den eigenen Kimi-Chatbot in einer vom US-Unternehmen als systematische Destillationskampagne beschriebenen Aktion zu trainieren.bloomberg+1

Der Bericht liefert detaillierte Informationen zu Vorwürfen, die Anthropic bereits im Februar erhob, als das Unternehmen enthüllte, dass chinesische KI-Labore insgesamt mehr als 16 Millionen Interaktionen mit Claude über rund 24 000 gefälschte Konten generiert hatten.mashable+1

So funktionierte das System

Laut Anthropic nutzte Moonshot 5 380 gefälschte Konten, die größtenteils in Singapur und Japan verortet waren, um die Unternehmensrichtlinien zu umgehen, die den Zugriff aus China untersagen. Die Anfragen wurden primär an das Opus-Modell von Anthropic gerichtet. Anthropic gab an, dass Moonshot den Datenverkehr innerhalb von 24 Stunden nach der Veröffentlichung neuer Claude-Modelle auf diese umleitete, was auf eine geplante, vorbereitete Operation und nicht auf einen spontanen Versuch hindeutet.wsj+1

Anthropic stellte fest, dass die Aktivität Teil eines Destillationsprozesses war, bei dem ein Entwickler Ergebnisse eines leistungsfähigeren KI-Modells erntet, um ein schwächeres Modell zu verbessern. In diesem Fall geht Anthropic davon aus, dass die Claude-Antworten zum Training der Kimi-Modelle von Moonshot verwendet wurden. Der Bericht nannte zudem DeepSeek und Xiaomi als Unternehmen, die sich an ähnlichen Praktiken beteiligt haben.bloomberg

US-Regierung verschärft Vorgehen

Der Bericht erscheint zwei Tage, nachdem die US-Regierung über die CISA eine gemeinsame Warnung herausgegeben hat, in der sechs chinesische KI-Unternehmen, darunter DeepSeek, Moonshot AI, Alibaba ↘ 0.52%, MiniMax, StepFun und Z.AI, beschuldigt werden, Milliarden von Tokens aus amerikanischen KI-Systemen extrahiert zu haben. Reuters berichtete, dass US-Beamte die Aktivität als aggressive, böswillige und gezielte Destillationsaktivitäten im industriellen Maßstab bezeichneten. Dies könnte die Beziehungen vor einem geplanten Treffen der Staatschefs beider Länder im Laufe dieses Monats weiter belasten.cisa+1

China weist Vorwürfe zurück

Vertreter von Moonshot, DeepSeek und Xiaomi reagierten nicht sofort auf Anfragen zur Stellungnahme. Das chinesische Handelsministerium hatte zuvor erklärt, es gebe keine faktische oder rechtliche Grundlage für die Vorwürfe der industriellen Destillation durch chinesische KI-Firmen, und drohte mit Gegenmaßnahmen, falls die USA Maßnahmen ergreifen, um chinesische KI-Unternehmen einzudämmen und zu unterdrücken.bloomberg