Alibaba verbietet Claude Code wegen angeblicher Hintertür-Risiken

Alibaba ↘ 0.26% wird seinen Mitarbeitern ab dem 10. Juli die Nutzung von Anthropic's Claude Code am Arbeitsplatz untersagen und dies mit Sicherheitsbedenken hinsichtlich eingebetteter Hintertür-Risiken in dem KI-Programmierassistenten begründen, berichtete Reuters am Donnerstag.thenextweb+1

Das Verbot folgt auf Enthüllungen, dass Claude Code Version 2.1.91, veröffentlicht am 2. April, eine versteckte Erkennungslogik enthielt, die Zeitzoneneinstellungen und Proxy-Konfigurationen der Nutzer prüfte, um Nutzer mit China-Bezug zu identifizieren. Der Mechanismus nutzte steganografische Techniken – das Einbetten unsichtbarer Markierungen in System-Prompts durch subtile Unicode-Zeichenvariationen –, die für Nutzer unentdeckbar, aber für Anthropic lesbar waren.cybersecuritynews+2

Der versteckte Code

Ein Reddit-Nutzer namens LegitMichel777 deckte die Funktion zuerst auf und stellte fest, dass Claude Code System-Zeitzonen mit "Asia/Shanghai" oder "Asia/Urumqi" verglich und Proxy-URLs nach chinesischen Domains und Hostnamen von KI-Laboren scannte. Der Code war mittels XOR-Verschlüsselung mit dem Schlüssel 91 verschleiert, was verhinderte, dass er bei einfachen Textsuchen erschien.the-decoder+1

Der Anthropic-Mitarbeiter Thariq Shihipar, der im Claude-Code-Team arbeitet, beschrieb die Funktion auf X als "ein Experiment, das wir im März gestartet haben und das dazu dienen sollte, Kontomissbrauch durch unbefugte Wiederverkäufer zu verhindern und vor Destillation zu schützen". Er sagte, das Team habe "eigentlich schon länger vorgehabt, dies zu entfernen" und es sei zum 1. Juli zurückgezogen worden.aiweekly+1

Spannungen durch Destillation

Das Verbot erfolgt inmitten eskalierender Spannungen zwischen den beiden Unternehmen. Anthropic sandte am 10. Juni einen Brief an die US-Senatoren Tim Scott und Elizabeth Warren, in dem Alibaba-nahe Betreiber beschuldigt wurden, die größte bekannte Destillationskampagne gegen Claude durchgeführt zu haben. Laut CNBC, das Details des Briefes bestätigte, sollen Betreiber, die mit Alibabas Qwen-KI-Labor verbunden sind, etwa 25.000 betrügerische Konten genutzt haben, um zwischen dem 22. April und dem 5. Juni fast 28,8 Millionen Interaktionen mit Claude-Modellen durchzuführen.businessinsider+2

Destillation ist eine Technik, bei der ein kleineres Modell unter Verwendung der Ausgaben eines leistungsfähigeren Modells trainiert wird – wodurch die Fähigkeiten eines Konkurrenten effektiv extrahiert werden, ohne sie unabhängig aufzubauen.cnbc

Breiterer Kontext

Alibaba hat das Verbot nicht öffentlich bestätigt, aber das chinesische Finanzmedium Yicai berichtete, dass das Unternehmen das identifizierte, was es als eingebettete Hintertür-Risiken beschrieb. Berichten zufolge hat das Unternehmen seinen Mitarbeitern Qoder als alternatives Programmiertool empfohlen.phemex+1

Der Vorfall unterstreicht den tiefer werdenden Graben zwischen US-amerikanischen und chinesischen KI-Unternehmen in Bezug auf geistiges Eigentum und Zugang, wobei sich beide Seiten gegenseitig Übergriffe vorwerfen – Anthropic behauptet einen groß angelegten Modell-Diebstahl, während Alibaba den versteckten Erkennungscode als verdeckte Überwachung seiner Entwickler darstellt.