Five Eyes avertit que le modèle d’IA open source chinois constitue une cybermenace

Un modèle d'IA de pointe publié par le laboratoire chinois Z.ai (anciennement Zhipu AI) soulève de nouvelles préoccupations en matière de cybersécurité parmi les responsables du renseignement et les chercheurs en sécurité, qui avertissent que des systèmes open source presque aussi performants que les modèles commerciaux les plus avancés sont déjà exploités par des adversaires sans garde-fous.

Une puissance de codage sous licence MIT

GLM-5.2, un modèle de mélange d'experts (Mixture-of-Experts) de 744 milliards de paramètres avec 39 à 40 milliards de paramètres actifs par jeton, a été mis à la disposition des abonnés au plan de codage de Z.ai le 13 juin et publié en tant que poids open source sous licence MIT la semaine suivante. Le modèle dispose d'une fenêtre contextuelle d'un million de jetons et est conçu spécifiquement pour les tâches de codage à long terme et les flux de travail agents. Sur des benchmarks comme FrontierSWE, il obtient un score de 74,4 %, juste un point derrière Claude Opus 4.8 d'Anthropic, ce qui en fait le modèle open source le mieux classé sur plusieurs classements indépendants.IT Brief Asia+5

Le 24 juin, Featherless.ai a annoncé un partenariat avec Z.ai pour héberger GLM-5.2 mondialement via une API compatible avec OpenAI, offrant une inférence FP8 avec jusqu'à 256 000 jetons sur le cloud public et la fenêtre complète d'un million de jetons sur les déploiements privés.featherless+1

Les chercheurs en sécurité tirent la sonnette d'alarme

La sortie du modèle a suscité des avertissements de la part de l'alliance de renseignement Five Eyes — les États-Unis, la Grande-Bretagne, le Canada, l'Australie et la Nouvelle-Zélande — selon lesquels le monde pourrait n'être qu'à quelques mois de voir des modèles d'IA accélérer considérablement les cybermenaces. Selon Axios, les dirigeants de l'alliance craignent que la Chine ne puisse utiliser une IA puissante pour la surveillance, les cyberopérations et la prise de décision militaire.axios+1

Dan Schiappa, président de la technologie et des services chez Arctic Wolf, a déclaré à CNBC le 25 juin que les adversaires utilisent déjà des modèles d'IA open source « presque aussi efficaces que Mythos » — le système le plus avancé d'Anthropic — mais sans les mesures de protection imposées par les plateformes commerciales. Les estimations des sociétés de sécurité Graphistry et Semgrep suggèrent que GLM-5.2 fonctionne au niveau des modèles leaders d'OpenAI et d'Anthropic en matière de détection de vulnérabilités et d'analyse des cybermenaces, pour environ la moitié du coût.UNN+1

Des discussions sur des forums russophones concernant le contournement des paramètres de sécurité de GLM-5.2 ont déjà fait surface, selon le média ukrainien UNN, citant les rapports d'Axios. Contrairement aux services commerciaux, les modèles open source n'offrent pratiquement aucune possibilité de contrôler l'utilisation en aval une fois les poids publiés.UNN

Le dilemme de l'open source

Les tensions entourant GLM-5.2 font écho à un débat plus large accéléré par la suspension par le gouvernement américain de Claude Fable 5 d'Anthropic le 13 juin — le jour même où le fondateur de Z.ai, Jie Tang, a annoncé GLM-5.2 avec une déclaration pointue selon laquelle « l'intelligence de pointe appartient à tout le monde ». Un chercheur en sécurité open source a déclaré à Axios que restreindre l'accès aux systèmes américains de pointe pourrait laisser aux défenseurs moins de moyens d'anticiper les menaces émergentes, alors même que les alternatives chinoises deviennent librement disponibles dans le monde entier.X (formerly Twitter)+2