Anthropic révèle une arnaque aux rencontres utilisant 4 700 profils IA

Anthropic a révélé cette semaine qu'un studio d'applications basé en Chine a créé et exploité un réseau de plus de 20 applications de rencontre frauduleuses alimentées par son modèle d'IA Claude, déployant plus de 4 700 profils automatisés qui ont trompé au moins 25 000 utilisateurs sur une période de deux semaines en avril 2026.

L'opération, désignée GTG-15001 par l'équipe de renseignement sur les menaces d'Anthropic, a généré environ 2,36 millions de messages au cours de la période observée, selon le rapport de renseignement sur les menaces de septembre 2026 publié le 10 septembre.anthropic+2

Comment fonctionnait l'arnaque

Les profils IA avaient pour instruction de ne jamais révéler leur nature automatisée, de détourner les demandes d'appels téléphoniques ou de photos, et de suivre une séquence scriptée d'étapes conversationnelles conçues pour maintenir l'engagement des victimes, a déclaré Anthropic. Pour rendre la tromperie plus difficile à détecter, le studio a mélangé des bots avec de vraies personnes : des travailleurs recrutés sur invitation représentaient environ un quart des profils avec lesquels les utilisateurs interagissaient. Ces travailleurs géraient les tâches que Claude ne pouvait pas effectuer, comme les appels vidéo en direct et les abonnements sur les réseaux sociaux, avec un ratio de trois profils IA pour chaque humain recruté.ndtvprofit+1

Les applications étaient conçues pour contourner les processus de révision de l'App Store d'Apple ↗ 5.31% et du Play Store de Google Alphabet Inc. ↗ 3.25%, n'activant une interface utilisateur complète que pendant la période de révision tout en restant dormantes le reste du temps. Les flux de paiement intégrés étaient redirigés vers des processeurs tiers en arrière-plan. L'opérateur s'appuyait sur des revendeurs d'API et une infrastructure proxy basés en Chine pour obtenir et faire tourner l'accès à plusieurs fournisseurs d'IA, contournant ainsi les politiques d'utilisation d'Anthropic.cnbctv18+1

La réponse d'Anthropic

Anthropic a déclaré avoir banni les comptes et l'infrastructure associée liés à l'opération et avoir partagé des indicateurs de menace avec Apple, Google et d'autres entreprises d'IA pour aider à perturber les abus futurs. L'entreprise a noté que GTG-15001 s'appuyait sur un cas plus restreint de 2025 où un acteur utilisait un bot Telegram pour générer des messages de rencontre pour des escrocs, mais a précisé que la nouvelle opération fonctionnait à une échelle bien plus vaste, répartissant délibérément les tâches entre plusieurs fournisseurs d'IA non liés pour maintenir la fraude.unite+1

L'arnaque aux rencontres était l'un des nombreux cas détaillés dans le rapport global, qui couvrait les abus qu'Anthropic a interrompus entre décembre 2025 et août 2026 dans sept catégories de préjudices, notamment les opérations cybernétiques, la surveillance, les opérations d'influence et la recherche liée aux armes.anthropic+1