Anthropic: Moonshot AI använde Claude för att träna sin egen AI i hemlighet

Anthropic publicerade på torsdagen en rapport där de anklagar det kinesiska AI-bolaget Moonshot AI för att i hemlighet ha skickat nästan 300 000 användarfrågor till deras Claude-modeller, främst Opus-modellen, utan att informera användarna. Svaren ska sedan ha använts för att träna deras egen chatbot Kimi i vad det amerikanska företaget beskriver som en systematisk destilleringskampanj.bloomberg+1

Rapporten ger mer detaljer kring anklagelser som Anthropic först lyfte i februari, då de avslöjade att kinesiska AI-labb tillsammans genererat över 16 miljoner interaktioner med Claude via cirka 24 000 falska konton.mashable+1

Så fungerade upplägget

Enligt Anthropic använde Moonshot 5 380 falska konton, de flesta baserade i Singapore och Japan, för att kringgå företagets förbud mot åtkomst från Kina. Frågorna skickades främst till Anthropics Opus-modell, och Anthropic uppger att Moonshot omdirigerade trafiken till nylanserade Claude-modeller inom 24 timmar efter lansering, vilket tyder på en förberedd verksamhet snarare än en tillfällig insats.wsj+1

Anthropic fastställde att aktiviteten var en del av en destilleringsprocess, där en utvecklare skördar utdata från en mer kapabel AI-modell för att förbättra en svagare. I detta fall tror Anthropic att Claude-svaren användes för att träna Moonshots Kimi-modeller. Rapporten nämner även DeepSeek och Xiaomi som aktörer som ägnat sig åt liknande metoder.bloomberg

Omfattande amerikanska åtgärder

Rapporten kommer två dagar efter att den amerikanska regeringen via CISA utfärdat en varning där sex kinesiska AI-bolag, däribland DeepSeek, Moonshot AI, Alibaba ↗ 2.64%, MiniMax, StepFun och Z.AI, anklagas för att ha utvunnit miljarder tokens från amerikanska AI-system. Reuters rapporterar att amerikanska tjänstemän beskriver aktiviteten som aggressiv, skadlig och riktad destillering i industriell skala, vilket kan anstränga relationerna ytterligare inför ett planerat möte mellan ländernas ledare senare denna månad.cisa+1

Kina slår ifrån sig

Representanter för Moonshot, DeepSeek och Xiaomi har inte svarat på förfrågningar om kommentarer. Kinas handelsministerium har tidigare hävdat att det saknas faktiska eller juridiska grunder för anklagelserna om industriell destillering och har hotat med motåtgärder om USA vidtar åtgärder för att begränsa kinesiska AI-företag.bloomberg