Anthropic obviňuje Alibaba z největšího známého útoku na Claude AI

Společnost Anthropic obvinila Alibabu z provedení 28,8 milionu interakcí s Claude prostřednictvím podvodných účtů v období od dubna do června, uvádí Reuters.globalbankingandfinance+1
Kampaň se údajně zaměřila na schopnosti softwarového inženýrství a uvažování modelu Claude, čímž zastínila dřívější snahy o destilaci, které Anthropic připsal DeepSeek a dalším čínským laboratořím.cyberscoop+1
Akcie Alibaba po zveřejnění klesly, což přichází v době eskalujících amerických vývozních kontrol na nejpokročilejší modely AI společnosti Anthropic kvůli obavám z čínského přístupu.investing+1

Společnost Anthropic obvinila Alibaba z vedení masivní operace s cílem nelegálně extrahovat schopnosti z jejího modelu umělé inteligence Claude a označila ji za dosud největší známý destilační útok proti společnosti, uvádí dopis, který získala agentura Reuters.globalbankingandfinance

V dopise zaslaném americkým senátorům a úředníkům Bílého domu Anthropic tvrdí, že operátoři napojení na laboratoř Qwen AI společnosti Alibaba použili téměř 25 000 podvodných účtů k vygenerování 28,8 milionu interakcí s Claude mezi dubnem a červnem, čímž obešli regionální omezení a podmínky služby.investing+1

Známý scénář ve větším měřítku

Obvinění následuje po vzorci, který Anthropic poprvé veřejně zdokumentoval v únoru, kdy obvinil tři další čínské laboratoře AI – DeepSeek, Moonshot AI a MiniMax – z vedení „kampaní v průmyslovém měřítku“ s využitím 24 000 podvodných účtů a 16 milionů dotazů k destilaci schopností Claude do jejich vlastních modelů. Operace napojená na Alibaba se zdá být v objemu i sofistikovanosti mnohem rozsáhlejší než tyto dřívější snahy.wsj+2

Destilace zahrnuje odesílání velkého množství pečlivě vytvořených výzev k extrakci uvažovacích vzorců a výstupů modelu, které lze následně použít k trénování konkurenčních systémů za zlomek původních nákladů na vývoj. Anthropic uvedl, že kampaň se zaměřila na nejcennější funkce Claude, včetně softwarového inženýrství a schopností agentního uvažování.cyberscoop+1

Eskalující napětí ohledně bezpečnosti AI

Obvinění přichází uprostřed zvýšeného tření mezi Anthropic a Trumpovou administrativou ohledně bezpečnosti AI. Začátkem tohoto měsíce ministerstvo obchodu zavedlo vývozní kontroly vyžadující, aby Anthropic omezil přístup ke svým nejnovějším modelům, Fable 5 a Mythos 5, pouze na občany USA – krok částečně spojený s obavami z čínského přístupu k pokročilým systémům AI. Anthropic reagoval úplným stažením obou modelů z trhu.semafor+3

Anthropic nenabízí komerční přístup ke Claude v Číně, což činí údajné používání podvodných účtů a proxy služeb nezbytným pro jakékoli úsilí o extrakci ve velkém měřítku. Společnost již dříve varovala, že taková destilace představuje rizika pro národní bezpečnost, protože extrahované schopnosti by mohly podpořit útočné kybernetické operace.anthropic+1

Dopady na trh a politiku

Akcie Alibaba po zprávách o obvinění klesly zhruba o 3 %. Zveřejnění pravděpodobně zintenzivní kontrolu Washingtonu nad čínským přístupem k americkým systémům AI, což je obava, která již v posledních měsících vyvolala vývozní kontroly a pozornost Kongresu obou stran. Anthropic charakterizoval operaci Alibaba jako nejvýznamnější úsilí čínského subjektu využít pokroky učiněné předními americkými výzkumnými laboratořemi.benton+3

Zdroje (51)