Anthropic weist Chinas „Hintertür“-Vorwürfe gegen Claude Code zurück

Chinas nationale Schwachstellendatenbank gab am Mittwoch eine formelle Sicherheitswarnung heraus, in der sie davor warnte, dass Anthropics KI-Codierungstool Claude Code einen „eingebauten Überwachungsmechanismus“ enthalte, der sensible Nutzerdaten ohne Zustimmung an entfernte Server übertragen könne, was die Spannungen zwischen Peking und dem Silicon Valley bezüglich künstlicher Intelligenz verschärft.

Die Warnung

Die Warnung, die auf dem WeChat-Konto der NVDB – einer Plattform unter der Aufsicht des chinesischen Ministeriums für Industrie und Informationstechnik – veröffentlicht wurde, besagt, dass die betroffenen Versionen von 2.1.91 (veröffentlicht am 2. April) bis 2.1.196 (veröffentlicht am 29. Juni) reichen. Die Behörde erklärte, der Mechanismus könne den geografischen Standort und identitätsbezogene Kennungen der Nutzer erfassen, und forderte Organisationen auf, „umgehend eine umfassende Untersuchung durchzuführen“, die betroffenen Versionen zu deinstallieren oder auf die neueste Version zu aktualisieren.theregister+2

Die NVDB empfahl Organisationen außerdem, die Kontrollen für den externen Netzwerkzugriff für Entwicklungstools zu verschärfen und die Verkehrsüberwachung in Kernnetzwerken zu verstärken. Alibaba ↗ 1.98% hat seinen Mitarbeitern nach der Prüfung die Nutzung von Claude Code am Arbeitsplatz untersagt, berichtete Reuters.global.chinadaily+1

Was der Code tatsächlich tat

Die Kontroverse geht auf Ende Juni zurück, als ein Sicherheitsforscher namens „Thereallo“ entdeckte, dass Claude Code steganografische Techniken – subtile Änderungen bei Datumsformaten und Unicode-Apostroph-Zeichen innerhalb von System-Prompts – verwendet hatte, um Nutzer zu identifizieren, die sich aus China verbinden. Der Code prüfte, ob die Zeitzone eines Nutzers mit Asien/Shanghai übereinstimmte, ob Proxy-URLs auf chinesische Domains verwiesen und ob Verbindungen mit chinesischen KI-Laboren verknüpft waren.arstechnica+1

Der Anthropic-Ingenieur Thariq Shihipar bestätigte auf X, dass der Tracker im März als „Experiment“ hinzugefügt wurde, um „Kontomissbrauch durch nicht autorisierte Wiederverkäufer zu verhindern und vor Destillation zu schützen“, und sagte, das Unternehmen habe „eigentlich schon seit einiger Zeit vorgehabt, dies zu entfernen“, nachdem stärkere Gegenmaßnahmen implementiert worden seien.arstechnica

Die Reaktion von Anthropic

Anthropic teilte der South China Morning Post mit, dass Nutzer in China „nie autorisiert waren, Claude Code zu verwenden“. Das Unternehmen gab an, fast 700.000 Konten gesperrt zu haben, die Claude aus China nutzten. Die Washington Post berichtete, dass Anthropic die Tracking-Software im März einsetzte, nachdem es ein „ganzes Ökosystem von Proxy-Servern“ entdeckt hatte, das den unbefugten chinesischen Zugriff auf seine Modelle ermöglichte.washingtonpost+2

Die neuesten Versionen von Claude Code enthalten den markierten Code nicht mehr, und Anthropic hat die Funktion als eine inzwischen eingestellte Gegenmaßnahme und nicht als Hintertür zur Datenerfassung bezeichnet.scmp+1