Google et Anthropic alertent sur l’usage de systèmes d’attaque par IA autonome

Les pirates liés à des États et les organisations cybercriminelles dépassent le stade de la simple expérimentation pour construire des systèmes autonomes et agenciels capables de scanner des cibles, d'exploiter des vulnérabilités et d'exfiltrer des données avec une intervention humaine minimale, selon deux rapports de renseignement sur les menaces publiés cette semaine par Google Alphabet Inc. ↗ 0.78% et Anthropic.

Le rapport Q3 2026 AI Threat Tracker du Google Threat Intelligence Group, publié le 8 septembre, documente un passage des simples prompts vers des frameworks d'IA multi-agents opérationnels chez divers adversaires. "À ce stade, nous pouvons supposer que tous les acteurs malveillants utilisent l'IA d'une manière ou d'une autre, et que leurs opérations en ont bénéficié", a déclaré John Hultquist, analyste en chef du GTIG.cybersecuritydive+1

Du prompt à l'autonomie

Le rapport de Google détaille plusieurs campagnes où l'IA a été intégrée au cycle de vie complet de l'attaque. Un groupe d'espionnage lié à la Chine a construit un pipeline d'exploitation assisté par IA utilisant un outil nommé CC Switch pour piloter plusieurs grands modèles de langage — dont Claude, Gemini et Codex — afin de créer des scripts d'exploitation personnalisés et des leurres de spear-phishing. Un autre groupe lié à la Chine, suivi sous le nom de Basin Castle, a interrogé des LLM pour profiler des cibles de grande valeur et rédiger des malwares sur mesure, tandis qu'un groupe lié à l'Iran, suivi sous le nom de Calanque Ion, a utilisé l'IA générative pour la reconnaissance, l'ingénierie sociale et l'ingénierie inverse de logiciels.cybersecuritydive

Google a également mis en garde contre des campagnes coordonnées de distillation de modèles, certaines dépassant les 100 millions de requêtes, ciblant ses modèles d'IA pour tenter d'extraire des capacités de raisonnement et des processus de réflexion logique.cybersecuritydive

Anthropic documente l'usage abusif de Claude

Le rapport d'Anthropic, publié le 10 septembre, offre une vision complémentaire et plus granulaire. L'entreprise a révélé avoir identifié et perturbé les opérations de groupes présumés parrainés par des États, de criminels motivés par l'appât du gain et d'hacktivistes ayant utilisé Claude de manière abusive entre décembre 2025 et août 2026.anthropic+1

Parmi les cas les plus détaillés figure GTG-20006, un acteur qu'Anthropic lie au groupe russe Midnight Blizzard, qui a utilisé Claude pour automatiser l'infrastructure de phishing, la refonte de malwares et l'exfiltration de données ciblant des fournisseurs ukrainiens de technologies de drones militaires et gouvernementaux. Le flux de travail piloté par l'IA de cet acteur pouvait reconstruire de manière autonome les malwares détectés jusqu'à ce qu'ils échappent aux produits de sécurité. Anthropic a également perturbé des affiliés du collectif ShinyHunters, dont l'un a téléchargé massivement 1,8 million d'APK Android pour récolter des identifiants codés en dur et a utilisé des clés API d'IA volées pour alimenter de nouvelles intrusions.anthropic

Les défenseurs face à une équation de coût inversée

Microsoft ↘ 0.99% a complété ces révélations avec un article de blog le 10 septembre documentant des campagnes usurpant l'identité de marques d'IA — dont ChatGPT, Copilot, DeepSeek et Claude — pour diffuser des kits de phishing et des malwares, une campagne sur le thème de ChatGPT ayant envoyé jusqu'à 100 000 e-mails en une seule journée.microsoft

Les conclusions collectives pointent vers un changement structurel. Anthropic a conclu que l'IA "a inversé le rapport de force au détriment des défenseurs", permettant aux adversaires de contourner les détections plus vite que les équipes de sécurité ne peuvent les déployer. Comme l'a prévenu Hultquist, le défi va s'intensifier "à mesure qu'elle est appliquée de manière agencielle, créant un adversaire plus rapide et à plus grande échelle".anthropic+1