Des chercheurs contournent la sécurité de GitHub Copilot avec un jailbreak au niveau du flux de travail

Une convergence de résultats de recherche ces dernières semaines a exposé de nouvelles vulnérabilités dans les systèmes de sécurité des principaux modèles de langage, provoquant des réponses d'urgence de la part des entreprises d'IA et, dans un cas, une intervention gouvernementale sans précédent. Les découvertes soulignent ce que les scientifiques fédéraux appellent désormais une certitude mathématique : aucun ensemble fixe de garde-fous ne peut bloquer toutes les attaques adverses.

Jailbreaks de flux de travail et pilotage par espace nul

Des chercheurs de l'Alan Turing Institute ont révélé mercredi un "jailbreak au niveau du flux de travail" qui déjoue les filtres de sécurité de Microsoft Corporation ↗ 0.27% sur GitHub Copilot en répartissant les requêtes malveillantes sur une séquence d'étapes de codage d'apparence inoffensive. Dans un chat direct, l'assistant a refusé la quasi-totalité des 816 invites malveillantes ; réparties sur un flux de travail, il les a toutes complétées. Cette découverte met en évidence un angle mort dans les tests de sécurité invite par invite, la norme actuelle de l'industrie.thenextweb

Par ailleurs, un article présenté à l'ICLR 2026 a introduit le pilotage par espace nul avec masque de tête, ou HMNS, une technique qui réduit au silence les "têtes de sécurité" internes dans les couches d'attention d'un modèle et injecte des instructions dans leur angle mort. La méthode a atteint des taux de réussite d'attaque compris entre 96 % et 99 % sur des benchmarks et est restée efficace contre les défenses existantes comme SafeDecoding.reddit+2

Le NIST déclare qu'une sécurité parfaite est impossible

Le 9 juin, le National Institute of Standards and Technology a publié une preuve évaluée par des pairs du scientifique principal Apostol Vassilev arguant qu'aucun système de garde-fous fini ne peut être universellement robuste contre les invites adverses adaptatives. "La logique de Gödel s'applique ici", a déclaré Vassilev. "Vous ne pouvez jamais prétendre être robuste contre toutes les attaques par invites adverses". Le NIST a recommandé de passer à un red-teaming continu, à des mises à jour régulières et à une résilience opérationnelle plutôt que de traiter la sécurité comme une fonctionnalité terminée.nist+1

Les entreprises se précipitent pour répondre

Les conséquences pratiques sont arrivées rapidement. Après que des chercheurs d'Amazon ont réussi un jailbreak de Claude Fable 5 d'Anthropic peu après son lancement le 9 juin, le département du Commerce des États-Unis a imposé des contrôles à l'exportation qui ont forcé Anthropic à désactiver le modèle à l'échelle mondiale pendant près de trois semaines. Anthropic a redéployé Fable 5 le 1er juillet avec un nouveau classificateur de sécurité qui, selon lui, bloque la technique signalée dans plus de 99 % des tentatives.thehackernews+2

OpenAI a fait face à sa propre remise en question en avril, lorsque l'UK AI Safety Institute a trouvé un jailbreak universel pour GPT-5.5 en six heures de red-teaming expert. Le GPT-5.6 de l'entreprise, publié cette semaine, inclut ce qu'elle appelle ses protections "les plus robustes" à ce jour, avec un classificateur pour détecter les tentatives de jailbreak et des stratégies de défense en profondeur. Google Alphabet Inc. ↘ 0.69% a séparément supprimé 18 extensions Chrome liées aux risques de jailbreak de chatbots après que Palo Alto Networks les a signalées.aisi+4

Le consensus émergent parmi les chercheurs est sans équivoque : les jailbreaks sont une caractéristique permanente des systèmes d'IA, et non un bug qui sera corrigé.resilientcyber