Five Eyes advierte que el modelo de IA de código abierto de China representa una amenaza cibernética

Un modelo de IA de clase avanzada lanzado por el laboratorio chino Z.ai (anteriormente Zhipu AI) está generando nuevas preocupaciones de ciberseguridad entre los funcionarios de inteligencia y los investigadores de seguridad, quienes advierten que los sistemas de código abierto casi tan capaces como los modelos comerciales más avanzados ya están siendo aprovechados por adversarios sin salvaguardas.

Una potencia de codificación bajo licencia MIT

GLM-5.2, un modelo de mezcla de expertos de 744 mil millones de parámetros con entre 39 y 40 mil millones de parámetros activos por token, estuvo disponible por primera vez para los suscriptores del plan de codificación de Z.ai el 13 de junio y se lanzó como pesos de código abierto bajo la licencia MIT la semana siguiente. El modelo cuenta con una ventana de contexto de un millón de tokens y está diseñado específicamente para tareas de codificación de largo alcance y flujos de trabajo agentes. En puntos de referencia como FrontierSWE, obtiene un 74,4%, solo un punto por detrás de Claude Opus 4.8 de Anthropic, lo que lo convierte en el modelo de código abierto mejor clasificado en varios tableros independientes.IT Brief Asia+5

El 24 de junio, Featherless.ai anunció una asociación con Z.ai para alojar GLM-5.2 a nivel mundial a través de una API compatible con OpenAI, ofreciendo inferencia FP8 con hasta 256.000 tokens en la nube pública y la ventana completa de un millón de tokens en implementaciones privadas.featherless+1

Los investigadores de seguridad hacen sonar la alarma

El lanzamiento del modelo ha provocado advertencias de la alianza de inteligencia Five Eyes (Estados Unidos, Gran Bretaña, Canadá, Australia y Nueva Zelanda) de que el mundo podría estar a solo meses de que los modelos de IA aceleren drásticamente las amenazas cibernéticas. Según Axios, los líderes de la alianza temen que China pueda utilizar una IA potente para la vigilancia, las operaciones cibernéticas y la toma de decisiones militares.axios+1

Dan Schiappa, presidente de Tecnología y Servicios de Arctic Wolf, dijo a CNBC el 25 de junio que los adversarios ya están utilizando modelos de IA de código abierto "casi tan efectivos como Mythos" —el sistema más avanzado de Anthropic— pero sin las medidas de protección que aplican las plataformas comerciales. Las estimaciones de las firmas de seguridad Graphistry y Semgrep sugieren que GLM-5.2 funciona al nivel de los modelos líderes de OpenAI y Anthropic en la detección de vulnerabilidades y el análisis de amenazas cibernéticas, a aproximadamente la mitad del costo.UNN+1

Ya han surgido discusiones en foros en ruso sobre cómo eludir los ajustes de seguridad de GLM-5.2, según el medio ucraniano UNN, citando informes de Axios. A diferencia de los servicios comerciales, los modelos de código abierto prácticamente no ofrecen capacidad para controlar el uso posterior una vez que se liberan los pesos.UNN

El dilema del código abierto

Las tensiones en torno a GLM-5.2 se hacen eco de un debate más amplio acelerado por la suspensión por parte del gobierno de EE. UU. de Claude Fable 5 de Anthropic el 13 de junio, el mismo día en que el fundador de Z.ai, Jie Tang, anunció GLM-5.2 con una declaración contundente de que "la inteligencia de frontera pertenece a todos". Un investigador de seguridad de código abierto le dijo a Axios que restringir el acceso a los sistemas estadounidenses de vanguardia podría dejar a los defensores con menos formas de anticipar las amenazas emergentes, incluso cuando las alternativas chinas estén disponibles gratuitamente en todo el mundo.X (formerly Twitter)+2