Alibaba zakáže Claude Code kvůli údajnému riziku zadních vrátek

Společnost Alibaba ↗ 1.87% od 10. července zakáže zaměstnancům používat nástroj Claude Code od společnosti Anthropic v pracovním prostředí, přičemž jako důvod uvedla bezpečnostní obavy z toho, co popsala jako rizika vložených zadních vrátek v tomto pomocníkovi pro kódování s umělou inteligencí, uvedla ve čtvrtek agentura Reuters.thenextweb+1

Zákaz následuje po odhalení, že verze Claude Code 2.1.91, vydaná 2. dubna, obsahovala skrytou detekční logiku, která kontrolovala nastavení časových pásem uživatelů a konfigurace proxy serverů za účelem identifikace uživatelů z Číny. Mechanismus využíval steganografické techniky – vkládání neviditelných značek do systémových výzev prostřednictvím jemných variací znaků Unicode –, které byly pro uživatele nezjistitelné, ale čitelné pro Anthropic.cybersecuritynews+2

Skrytý kód

Uživatel Redditu známý jako LegitMichel777 jako první tuto funkci odhalil, když zjistil, že Claude Code porovnává systémová časová pásma s „Asia/Shanghai“ nebo „Asia/Urumqi“ a skenuje adresy URL proxy serverů na čínské domény a názvy hostitelů laboratoří AI. Kód byl maskován pomocí XOR šifrování s klíčem 91, což zabránilo jeho zobrazení při jednoduchém vyhledávání textu.the-decoder+1

Zaměstnanec společnosti Anthropic Thariq Shihipar, který pracuje v týmu Claude Code, popsal tuto funkci na síti X jako „experiment, který jsme spustili v březnu a který měl zabránit zneužívání účtů neautorizovanými prodejci a chránit před destilací“. Uvedl, že tým „již nějakou dobu zamýšlel tuto funkci odstranit“ a že byla k 1. červenci stažena.aiweekly+1

Napětí kolem destilace

Zákaz přichází v době stupňujícího se napětí mezi oběma společnostmi. Společnost Anthropic zaslala 10. června dopis americkým senátorům Timu Scottovi a Elizabeth Warrenové, v němž obvinila operátory napojené na Alibabu z provedení toho, co označila za největší známou destilační kampaň proti Claude. Podle CNBC, která podrobnosti dopisu potvrdila, operátoři napojení na laboratoř Qwen AI společnosti Alibaba údajně použili zhruba 25 000 podvodných účtů k provedení téměř 28,8 milionu interakcí s modely Claude mezi 22. dubnem a 5. červnem.businessinsider+2

Destilace je technika, při níž je menší model trénován pomocí výstupů z výkonnějšího modelu – efektivně tak získává schopnosti konkurenta, aniž by je musel budovat nezávisle.cnbc

Širší souvislosti

Alibaba zákaz veřejně nepotvrdila, ale čínský finanční server Yicai uvedl, že společnost identifikovala to, co popsala jako rizika vložených zadních vrátek. Společnost údajně doporučila zaměstnancům jako alternativní nástroj pro kódování Qoder.phemex+1

Tato epizoda podtrhuje prohlubující se rozkol mezi americkými a čínskými společnostmi v oblasti AI ohledně duševního vlastnictví a přístupu, přičemž obě strany se navzájem obviňují z překračování pravomocí – Anthropic tvrdí, že jde o rozsáhlou krádež modelů, a Alibaba označuje skrytý detekční kód za skryté sledování svých vývojářů.