Brockman, de OpenAI, advierte que el modelo GLM-5.3 de Z.ai intensificará las ciberamenazas

El laboratorio de inteligencia artificial chino Z.ai anunció el 14 de agosto que retrasaría dos semanas la publicación de los pesos abiertos de su modelo GLM-5.3, después de que el sistema demostrara una capacidad inesperadamente alta para encontrar y explotar vulnerabilidades de software. La decisión ha llamado la atención del presidente de OpenAI, Greg Brockman, quien advirtió que es probable que el modelo "acelere significativamente el panorama de amenazas".buttondown+2

Un modelo que sorprendió a sus creadores

Z.ai afirmó que GLM-5.3 se construyó sobre la misma arquitectura base que su predecesor, GLM-5.2, y que todas las mejoras de rendimiento se deben a optimizaciones posteriores al entrenamiento y no a un reentrenamiento completo. La empresa añadió datos de vulnerabilidades esperando mejorar la detección de errores, pero en su lugar observó que el modelo generaba cadenas de explotación de múltiples etapas que, según afirma, nunca había previsto. En CyberGym, una prueba de rendimiento interna, GLM-5.3 detectó fallos de software conocidos con una tasa del 84,5 %, frente al 77,2 % de su modelo anterior, al tiempo que duplicó con creces su puntuación de explotación.instagram+2

Z.ai señaló que los modelos GLM ya han identificado más de 2.400 fallos de seguridad, incluidos más de 1.000 calificados de gravedad crítica o alta, algunos de ellos en el kernel de Linux y en proyectos ampliamente utilizados de VMware Broadcom Inc. ↗ 1.21% y Apache. La empresa ofrece acceso escalonado a socios de seguridad seleccionados en entornos controlados, mientras que el acceso más amplio a la API y la descarga de pesos se posponen hasta que finalice la evaluación de seguridad.instagram+2

Alarma en el sector

Brockman, que se pronunció tras un ciberataque que afectó recientemente a OpenAI y Hugging Face, instó a las empresas a actuar de inmediato. Calificó el momento de "concluyente" para la ciberseguridad y señaló los pesos abiertos de GLM-5.3, cuyo lanzamiento está previsto para finales de agosto, como una escalada a corto plazo. Aconsejó a los equipos de seguridad adoptar herramientas de IA de tipo agente con acceso aprobado a bases de código e infraestructura, empezando por los sistemas de mayor prioridad.artificialintelligence-news+1

Esta advertencia coincide con las preocupaciones planteadas por el director ejecutivo de OpenAI, Sam Altman, y el director ejecutivo de Anthropic, Dario Amodei, quienes han señalado que las capacidades cibernéticas de sus propios modelos de vanguardia representan un riesgo creciente.timesnownews

Pesos abiertos, preguntas abiertas

Z.ai ha presentado el retraso como una divulgación responsable, argumentando que "un mundo abierto no puede tener solo superficies de ataque abiertas", sino que también debe tener "un escudo abierto". Aun así, todas las cifras de rendimiento citadas hasta ahora proceden de la propia Z.ai; al no haberse liberado los pesos, ningún investigador independiente ha podido reproducir los resultados. El lanzamiento público del modelo, previsto ahora para el 28 de agosto, pondrá a prueba si estas afirmaciones son ciertas y si los defensores pueden mantener el ritmo frente a lo que el modelo permite.remio+2