Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

anthropicanthropicanthropicAnthropic publicó el martes un análisis advirtiendo que GLM-5.3, el modelo de IA más reciente del desarrollador chino Zhipu AI (también conocido como Z.ai), puede crear ciberataques de extremo a extremo de forma autónoma, a la par del modelo Claude Mythos Preview de la propia Anthropic, pero ha sido lanzado como un modelo de pesos abiertos sin salvaguardas efectivas contra el uso indebido.anthropic
El informe del equipo de seguridad de Anthropic reveló que GLM-5.3 desarrolló exploits funcionales en 50 de 410 intentos en ExploitBench, un punto de referencia que mide el desarrollo de exploits contra vulnerabilidades conocidas del motor V8 de Chrome, de Alphabet Inc. , en comparación con los 56 de Claude Mythos Preview. En una prueba de explotación binaria, GLM-5.3 logró secuestros de flujo de control completos en el 4 por ciento de los ensayos, frente al 6 por ciento de Mythos. Modelos anteriores, incluidos Claude Opus 4.6 y GLM-5.2, no tuvieron éxito en ninguno.anthropic
La principal preocupación de Anthropic no es solo la capacidad, sino la ausencia de barreras de seguridad. Debido a que los pesos de GLM-5.3 están disponibles públicamente, sus rechazos integrados pueden eliminarse mediante una técnica llamada "abliteración". El equipo de Anthropic, sin experiencia previa en el método, redujo la tasa de rechazo del modelo de más del 90 por ciento a cerca del 3 por ciento en pruebas estándar de daño con un coste de computación de unos 4.400 dólares. Varios desarrolladores publicaron versiones desbloqueadas similares pocos días después del lanzamiento del modelo en agosto.anthropic
Además de la abliteración total, existen trucos más sencillos. Un prompt engañoso que simulaba ser un ejercicio autorizado de red-team eludió las salvaguardas de GLM-5.3 el 64 por ciento de las veces; rellenar previamente los tokens de cadena de pensamiento del modelo aumentó el cumplimiento al 92 por ciento. Ninguna de estas técnicas tuvo éxito contra los modelos Claude en las pruebas de Anthropic.anthropic
En una sesión dirigida por investigadores, GLM-5.3 descubrió varias vulnerabilidades previamente desconocidas en el motor JavaScript de un navegador web popular y las encadenó en un exploit funcional: una página web que lee archivos arbitrarios del ordenador de un visitante. El modelo más pequeño, GLM-5.3-Flash, construyó una cadena de explotación fiable para una vulnerabilidad conocida de Chrome en ocho horas de computación y 20 minutos de atención humana, con un coste de API de 20,40 dólares.anthropic
El 17 de septiembre, el Centro de Estándares e Innovación de IA del NIST publicó su propia evaluación, calificando a GLM-5.3 como "el modelo de código abierto con mayor capacidad cibernética lanzado hasta la fecha", aunque señaló que sus capacidades siguen estando unos cuatro meses por detrás de los modelos de vanguardia actuales de EE. UU. Z.ai lanzó por primera vez GLM-5.3 a través de su API en agosto y publicó los pesos en Hugging Face dos semanas después, afirmando que el retraso permitió realizar evaluaciones de seguridad adicionales.trendingtopics+2
No todos comparten la alarma de Anthropic. Jake Williams, de IANS Research, dijo a The New Stack que, si bien los actores de amenazas utilizarán el modelo, no espera que cambie significativamente el panorama de amenazas. Los críticos también han señalado un posible conflicto de intereses, destacando que Anthropic compite directamente con Z.ai y fue el único laboratorio de IA importante que no firmó una carta de la industria apoyando los modelos abiertos respaldados por Nvidia , Meta , Microsoft , OpenAI y Google.trendingtopics
Anthropic definió el momento como uno que exige un mayor acceso para los defensores: "Se ha cruzado un umbral crítico en las capacidades de libre acceso".anthropic