Anthropic hevder Moonshot AI i hemmelighet sendte brukerforespørsler gjennom Claude

Anthropic publiserte torsdag en ny rapport der de anklager det kinesiske AI-selskapet Moonshot AI for i hemmelighet å ha sendt nesten 300 000 brukerforespørsler til sine Claude-modeller, spesielt Opus-modellen, uten å informere brukerne. Deretter skal de ha brukt svarene til å trene sin egen Kimi-chatbot i det det amerikanske selskapet beskriver som en systematisk destilleringskampanje.bloomberg+1

Rapporten gir detaljert informasjon om anklager Anthropic først fremmet i februar, da de avslørte at kinesiske AI-laboratorier til sammen hadde generert mer enn 16 millioner utvekslinger med Claude gjennom omtrent 24 000 falske kontoer.mashable+1

Slik fungerte ordningen

Ifølge Anthropic brukte Moonshot 5 380 falske kontoer, hvorav de fleste så ut til å være lokalisert i Singapore og Japan, for å omgå selskapets retningslinjer som forbyr tilgang fra Kina. Forespørslene ble primært sendt til Anthropics Opus-modell, og Anthropic opplyser at Moonshot omdirigerte trafikken til nylanserte Claude-modeller innen 24 timer etter lansering, noe som tyder på en etablert operasjon fremfor et tilfeldig forsøk.wsj+1

Anthropic fastslo at aktiviteten var en del av en destilleringsprosess, der en utvikler henter utdata fra en mer kapabel AI-modell for å forbedre en svakere modell. I dette tilfellet mener Anthropic at Claude-svarene ble brukt til å trene Moonshots Kimi-modeller. Rapporten nevner også DeepSeek og Xiaomi som aktører som har drevet med lignende praksis.bloomberg

Omfattende amerikansk inngripen

Rapporten kommer to dager etter at den amerikanske regjeringen utstedte en felles advarsel via CISA, der de anklager seks kinesiske AI-selskaper, inkludert DeepSeek, Moonshot AI, Alibaba ↘ 0.52%, MiniMax, StepFun og Z.AI, for å ha hentet ut milliarder av tokens fra amerikanske AI-systemer. Reuters rapporterte at amerikanske tjenestemenn karakteriserte aktiviteten som aggressiv, ondsinnet og målrettet destillering i industriell skala, et trekk som kan forverre forholdet før et planlagt møte mellom lederne i de to landene senere denne måneden.cisa+1

Kina slår tilbake

Representanter for Moonshot, DeepSeek og Xiaomi har ikke umiddelbart svart på forespørsler om kommentarer. Kinas handelsdepartement har tidligere uttalt at det ikke finnes noe faktisk eller juridisk grunnlag for anklagene om industriell destillering fra kinesiske AI-selskaper, og har truet med mottiltak dersom USA tar skritt for å begrense og undertrykke kinesiske AI-bedrifter.bloomberg