Les filtres de sécurité des modèles d’IA de Meta et Google contournés en quelques minutes, selon le FT

Des outils logiciels qui suppriment les protections de sécurité des modèles d'IA développés par Meta ↗ 4.70% et Google Alphabet Inc. ↗ 2.82% peuvent contourner les garde-fous en quelques minutes, selon une enquête publiée dimanche par le Financial Times. Les systèmes modifiés ont répondu à des requêtes impliquant des armes biologiques, la création de logiciels malveillants et l'exploitation d'enfants, soulevant de nouvelles inquiétudes quant à l'adéquation des mesures de sécurité volontaires dans l'industrie de l'IA.

Des tests révèlent des protections fragiles

Le Financial Times, en collaboration avec le groupe de sécurité de l'IA Alice, a mené des tests démontrant que des boîtes à outils accessibles au public pouvaient supprimer les filtres de sécurité de modèles largement utilisés en peu de temps. Ces boîtes à outils exploitent des techniques incluant le réglage fin léger, des jeux de données d'instructions adverses et des transformations automatisées de requêtes qui écrasent ou contournent les protections intégrées sans nécessiter un réentraînement complet du modèle. Selon le rapport, ces outils sont déjà utilisés pour créer des milliers de versions de modèles modifiées qui contournent les restrictions imposées par les fournisseurs.ft+2

Ces conclusions arrivent dans un contexte de preuves académiques croissantes de faiblesses structurelles dans l'alignement de la sécurité de l'IA. Une étude de février publiée dans Nature Communications a révélé que les grands modèles de raisonnement pouvaient être utilisés comme agents de jailbreak autonomes, atteignant un taux de réussite de 97 % sur des combinaisons de modèles sans supervision humaine. Par ailleurs, un article présenté à l'ICLR 2026 a démontré une technique appelée Head-Masked Nullspace Steering qui a atteint jusqu'à 99 % de succès en jailbreak en désactivant les têtes d'attention spécifiques responsables des refus de sécurité.nature+1

Les modèles à poids ouverts amplifient le risque

L'enquête souligne une tension au cœur de la stratégie d'IA à poids ouverts défendue par la série Llama de Meta et la gamme Gemma de Google. Bien que les poids ouverts accélèrent la recherche et l'adoption par les développeurs, ils permettent également à des tiers de modifier ou de reconditionner des modèles avec des normes de sécurité altérées. Les analystes en cybersécurité ont averti que de nombreuses protections de sécurité de l'IA n'existent qu'au niveau superficiel, et qu'une fois que les utilisateurs ont accès aux poids du modèle, les restrictions peuvent être supprimées à l'aide d'outils distribués gratuitement.nai500+1

Le New York Times a rapporté plus tôt ce mois-ci que les contrôles de sécurité de l'IA dans l'industrie restent largement inefficaces, notant que des chercheurs de la société de cybersécurité LayerX avaient contourné les garde-fous de Claude avec un effort minimal.nytimes

Implications réglementaires et de marché

Les organismes de réglementation à Washington, Bruxelles et Londres ont signalé que les engagements volontaires des développeurs d'IA ne seront pas suffisants. Les États-Unis disposent déjà de cadres de décrets et de directives du NIST qui pourraient être exploités pour l'application, tandis que la loi européenne sur l'IA impose des sanctions en cas de défaillances systémiques de sécurité. Ces conclusions devraient intensifier les appels à des normes exécutoires régissant à la fois les systèmes d'IA fermés et à poids ouverts, ce qui pourrait ralentir l'adoption par les entreprises à mesure que les équipes d'approvisionnement exigent des garanties techniques plus solides et des pistes d'audit indépendantes.nai500