Anthropic anklagar Alibaba för största kända attacken mot Claude AI

Anthropic har anklagat Alibaba ↗ 4.91% för att ha genomfört en massiv operation för att olovligen extrahera förmågor från deras AI-modell Claude, och kallar det den största kända destilleringsattacken mot företaget hittills, enligt ett brev som Reuters tagit del av.globalbankingandfinance

I brevet, som skickats till amerikanska senatorer och tjänstemän i Vita huset, hävdade Anthropic att operatörer kopplade till Alibabas Qwen AI-labb använde nästan 25 000 bedrägliga konton för att generera 28,8 miljoner utbyten med Claude mellan april och juni, genom att kringgå regionala begränsningar och användarvillkor.investing+1

Ett välkänt upplägg i större skala

Anklagelsen följer ett mönster som Anthropic först dokumenterade offentligt i februari, då de anklagade tre andra kinesiska AI-laboratorier – DeepSeek, Moonshot AI och MiniMax – för att driva "kampanjer i industriell skala" med hjälp av 24 000 bedrägliga konton och 16 miljoner frågor för att destillera Claudes förmågor till sina egna modeller. Den Alibaba-kopplade operationen verkar överträffa dessa tidigare försök i både volym och sofistikering.wsj+2

Destillering innebär att skicka ett stort antal noggrant utformade frågor för att extrahera modellens resonemangsmönster och utdata, som sedan kan användas för att träna konkurrerande system till en bråkdel av den ursprungliga utvecklingskostnaden. Anthropic uppgav att kampanjen riktade in sig på Claudes mest värdefulla funktioner, inklusive mjukvaruutveckling och agentisk resonemangsförmåga.cyberscoop+1

Eskalerande spänningar kring AI-säkerhet

Anklagelsen kommer mitt i ökad friktion mellan Anthropic och Trump-administrationen gällande AI-säkerhet. Tidigare denna månad införde handelsdepartementet exportkontroller som kräver att Anthropic begränsar åtkomsten till sina nyaste modeller, Fable 5 och Mythos 5, till endast amerikanska medborgare – ett drag som delvis kopplas till oro för kinesisk åtkomst till avancerade AI-system. Anthropic svarade med att dra tillbaka båda modellerna helt från marknaden.semafor+3

Anthropic erbjuder inte kommersiell åtkomst till Claude i Kina, vilket gör den påstådda användningen av bedrägliga konton och proxytjänster nödvändig för alla försök till extrahering i stor skala. Företaget har tidigare varnat för att sådan destillering utgör nationella säkerhetsrisker, eftersom extraherade förmågor skulle kunna driva offensiva cyberoperationer.anthropic+1

Marknadsmässiga och politiska konsekvenser

Alibaba-aktien föll med cirka 3 % efter rapporterna om anklagelsen. Avslöjandet kommer sannolikt att intensifiera Washingtons granskning av kinesisk åtkomst till amerikanska AI-system, en oro som redan har utlöst exportkontroller och tvärpolitisk uppmärksamhet i kongressen under de senaste månaderna. Anthropic karakteriserade Alibaba-operationen som den mest betydande insatsen från en kinesisk enhet för att utnyttja framsteg gjorda av ledande amerikanska forskningslaboratorier.benton+3