Les laboratoires d’IA luttent pour empêcher leurs modèles de concevoir des armes biologiques

Les grandes entreprises d'intelligence artificielle intensifient leurs efforts pour empêcher que leurs modèles les plus avancés ne soient utilisés pour concevoir de nouveaux virus ou des armes biologiques, alors que des dirigeants et des experts en biosécurité avertissent qu'une seule défaillance pourrait avoir des conséquences catastrophiques.

OpenAI, Anthropic et Google DeepMind d'Alphabet Inc. ↘ 1.11% étendent les tests de risques biologiques et les contrôles d'accès à mesure que leurs modèles deviennent de plus en plus performants dans les domaines scientifiques, a rapporté le Financial Times mardi. La préoccupation n'est pas que les chatbots publics actuels puissent produire des armes biologiques à la demande, mais que les modèles scientifiques de nouvelle génération puissent abaisser la barrière pour les personnes ayant des intentions malveillantes.techbooky+1

Un modèle trop performant pour un accès libre

Le problème a déjà forcé des décisions concrètes sur les produits. Le modèle Claude Fable 5 d'Anthropic, lancé en juin, s'est révélé lors de tests internes offrir une "aide significative" à un apprenti fabricant d'armes biologiques, avec des capacités qu'ils "ne pourraient trouver nulle part ailleurs", a déclaré l'entreprise. En réponse, Anthropic a construit un système de classification qui détourne les requêtes biologiques sensibles de Fable 5 vers Opus 5, un modèle plus ancien et moins performant.thenextweb+1

Au lancement, les garde-fous étaient si agressifs qu'ils bloquaient presque toutes les questions liées à la biologie, suscitant de vives critiques. En août, Anthropic a réécrit ses règles de classification avec l'aide d'experts, réduisant les faux positifs liés à la biologie d'environ 85 pour cent. Mais les domaines à double usage, notamment la virologie, la toxicologie et la conception moléculaire, restent restreints, Fable 5 continuant de se rabattre sur Opus 5 pour ces requêtes.anthropic+2

Le modèle le plus puissant de l'entreprise, Mythos 5, n'est disponible que pour des partenaires sélectionnés via son programme Project Glasswing, qui limite l'accès aux équipes de cybersécurité approuvées, aux organisations gouvernementales et aux institutions de recherche.coursiv

Une mobilisation industrielle pour des garde-fous

Le renforcement des contrôles fait suite à une mobilisation plus large de l'industrie. En juin, les PDG d'Anthropic, d'OpenAI et de Microsoft ↘ 2.04% AI ont signé une lettre commune exhortant le Congrès à rendre obligatoire le filtrage des commandes d'ADN et d'ARN synthétiques, qui pourraient être exploitées pour créer des armes biologiques avec l'aide de l'IA. Un rapport sur la sécurité de l'industrie de 2026 a révélé que plusieurs laboratoires d'IA de pointe avaient ajouté des restrictions après avoir été incapables d'exclure que leurs modèles puissent aider des novices à développer des armes chimiques ou biologiques.fortune+2

La RAND Corporation a décrit en août une stratégie de défense multicouche, concluant qu'aucune mesure de sécurité unique ne peut empêcher les attaques biologiques facilitées par l'IA, mais que neuf interventions combinées pourraient réduire significativement le risque. La Commission bipartisane sur la biosécurité de l'Atlantic Council a désigné l'IA comme une priorité technologique formelle pour la première fois.rand+1

Le dilemme du double usage

Le défi pour les régulateurs comme pour les entreprises est que la biologie est intrinsèquement à double usage. Les mêmes systèmes d'IA qui accélèrent la découverte de médicaments et la recherche sur les protéines peuvent également faciliter l'accès à des connaissances dangereuses. Comme l'a déclaré un expert en biosécurité au Financial Times, "il suffira d'une seule erreur", un avertissement que l'industrie semble prendre au sérieux, même si elle peine à équilibrer ouverture et sécurité.ft+1