Anthropic affirme avoir bloqué des utilisations abusives de l’IA liées à la recherche sur les armes biologiques

Anthropic a publié jeudi son rapport de renseignement sur les menaces le plus détaillé à ce jour, révélant que ses modèles d'IA ont été utilisés par des pirates informatiques parrainés par des États, des groupes criminels et des chercheurs menant des travaux liés aux armes biologiques au cours des neuf derniers mois, une révélation qui souligne la rapidité avec laquelle l'IA redéfinit le paysage de la cybercriminalité et des risques de biosécurité.

Le rapport, intitulé « Detecting and Countering Misuse of AI: September 2026 » (Détecter et contrer l'utilisation abusive de l'IA : septembre de 2026), couvre les activités que l'équipe de renseignement sur les menaces de l'entreprise a interrompues entre décembre 2025 et août 2026 dans sept catégories de préjudices, notamment les cyberopérations, l'utilisation abusive biologique, la surveillance, les opérations d'influence et le développement d'armes conventionnelles. Les modèles Claude Haiku, Sonnet et Opus ont tous été exploités, bien que l'entreprise ait précisé qu'aucun des cas ne concernait ses modèles plus récents de classe Claude Fable ou Mythos.techxplore+1

Alerte sur la recherche d'armes biologiques

Parmi les conclusions les plus alarmantes, Anthropic a déclaré avoir identifié des tentatives d'utilisation de Claude pour des recherches susceptibles de soutenir le développement d'armes biologiques. Un cas concernait une plateforme au service de virologues menant des recherches sur le gain de fonction du virus du chikungunya, acheminant les requêtes via des infrastructures américaines pour contourner les blocages régionaux et utilisant des services de rétention de données nulle pour masquer le contenu. Un autre cas concernait un chercheur accédant à Claude depuis une région non prise en charge pour planifier des travaux d'adaptation aux mammifères de la grippe aviaire hautement pathogène. Un troisième cas concernait la rédaction d'une proposition de subvention pour la recherche sur des orthopoxvirus actifs, la famille qui comprend la variole, dans ce qu'Anthropic a décrit comme un laboratoire associé à un État.theweek+1

« On craint depuis longtemps que les modèles d'IA n'atteignent un jour un niveau de capacité leur permettant de rendre les agents pathogènes existants plus dangereux, ou d'en créer de totalement nouveaux », a déclaré l'entreprise. Anthropic a précisé que ses derniers modèles intègrent désormais des garde-fous plus stricts limitant l'accès aux requêtes de recherche biologique à double usage.theweek

Les cyberopérations deviennent plus autonomes

Le rapport documente également un changement dans la manière dont les acteurs malveillants utilisent l'IA pour les cyberattaques, décrivant une transition de l'IA comme assistante à l'IA comme orchestratrice. Dans un cas, un acteur lié au groupe Midnight Blizzard, proche de l'État russe, a automatisé presque toutes les étapes de campagnes d'intrusion ciblant des organismes gouvernementaux ukrainiens, misiones diplomatiques européennes et chaînes d'approvisionnement de technologies de drones. L'acteur a utilisé Claude pour concevoir des infrastructures d'hameçonnage, modifier des logiciels malveillants afin d'échapper à la détection et exfiltrer des centaines de gigaoctets de données volées.anthropic

Un autre groupe d'attaquants motivés par l'appât du gain, lié au collectif ShinyHunters, a utilisé Claude pour accélérer le vol massif de données, dérobant des millions de données de cartes de paiement et d'informations sur les passagers de plusieurs victimes. Anthropic a souligné que l'IA a « comblé l'écart de main-d'œuvre et d'outils » entre les opérations étatiques et les pirates informatiques individuels, ce qui signifie que les attaques sophistiquées ne nécessitent plus d'attaquants sophistiqués.anthropic

Le calendrier de publication suscite des interrogations

La publication du rapport intervient deux jours après la démission publique d'un chercheur d'Anthropic, qui a affirmé que l'entreprise et ses pairs n'agissaient pas de manière responsable en matière de développement de l'IA, selon la BBC. « C'est dans des cas comme celui-ci que nous devons explorer l'éthique de la situation », a déclaré Kishan R, chercheur en IA basé à Noida, en Inde. « Comment des entreprises comme Anthropic et xAI déterminent-elles ce qui constitue une utilisation sûre de leurs modèles d'IA ? C'est une question démocratique et non corporative ».bbc+1