Anthropic accuse Moonshot AI d’avoir détourné des requêtes d’utilisateurs vers Claude

Anthropic a publié jeudi un nouveau rapport accusant la société chinoise d'IA Moonshot AI d'avoir secrètement acheminé près de 300 000 requêtes d'utilisateurs vers ses modèles Claude, en particulier le modèle Opus, sans en informer les utilisateurs, puis d'avoir utilisé les réponses pour entraîner son propre chatbot Kimi dans ce que l'entreprise américaine a décrit comme une campagne de distillation systématique.bloomberg+1

Le rapport ajoute des détails précis aux allégations qu'Anthropic avait soulevées pour la première fois en février, lorsqu'elle avait révélé que des laboratoires d'IA chinois avaient collectivement généré plus de 16 millions d'échanges avec Claude via environ 24 000 comptes frauduleux.mashable+1

Comment fonctionnait le système

Selon Anthropic, Moonshot a utilisé 5 380 comptes frauduleux, dont la plupart semblaient être situés à Singapour et au Japon, pour contourner la politique de l'entreprise interdisant l'accès depuis la Chine. Les requêtes étaient principalement dirigées vers le modèle Opus d'Anthropic, et Anthropic a déclaré que Moonshot redirigeait le trafic d'extraction vers les nouveaux modèles Claude dans les 24 heures suivant leur lancement, suggérant une opération permanente et préétablie plutôt qu'un effort ponctuel.wsj+1

Anthropic a déterminé que l'activité faisait partie d'un processus de distillation, dans lequel un développeur récolte les résultats d'un modèle d'IA plus performant pour améliorer un modèle plus faible. Dans ce cas, Anthropic estime que les réponses de Claude ont été utilisées pour entraîner les modèles Kimi de Moonshot. Le rapport a également cité DeepSeek et Xiaomi comme ayant participé à des pratiques similaires.bloomberg

Répression plus large du gouvernement américain

Le rapport intervient deux jours après que le gouvernement américain a émis un avis conjoint via la CISA accusant six entreprises chinoises d'IA, dont DeepSeek, Moonshot AI, Alibaba ↘ 0.55%, MiniMax, StepFun et Z.AI, d'extraire des "milliards de jetons" de systèmes d'IA américains. Reuters a rapporté que les responsables américains ont qualifié l'activité d'"activités de distillation agressives, malveillantes et ciblées à l'échelle industrielle", une mesure qui pourrait tendre davantage les relations avant une réunion prévue entre les dirigeants des deux pays plus tard ce mois-ci.cisa+1

La Chine réplique

Les représentants de Moonshot, DeepSeek et Xiaomi n'ont pas immédiatement répondu aux demandes de commentaires. Le ministère chinois du Commerce a précédemment déclaré qu'il n'y avait "aucune base factuelle ou juridique" aux accusations de distillation à l'échelle industrielle par des entreprises chinoises d'IA et a menacé de prendre des contre-mesures si les États-Unis "prennent des mesures pour contenir et supprimer" les entreprises chinoises d'IA.bloomberg