Los agentes de IA de Mandiant hallaron más de 100 fallos críticos en dos días

El Grupo de Inteligencia de Amenazas de Google Alphabet Inc. ↗ 0.12% reveló el miércoles cómo una herramienta interna de Mandiant utiliza cadenas de agentes de IA para buscar vulnerabilidades de software, reportando que descubrió más de 100 fallos verificados de alta gravedad en solo dos días durante una investigación en vivo sobre repositorios de código fuente corporativo robado.

La herramienta, llamada Agentic Vulnerability Discovery Harness (AVDH), ha estado operando dentro de Mandiant durante diez meses, escaneando decenas de millones de líneas de código y produciendo decenas de miles de hallazgos, según una publicación en el blog del Grupo de Inteligencia de Amenazas de Google. Por separado, Palo Alto Networks ↘ 3.84% anunció el mismo día su Frontier AI Critical Defense Program, una iniciativa colaborativa para proteger infraestructuras críticas contra exploits impulsados por IA.helpnetsecurity+1

Cómo funciona AVDH

Construido sobre el Agent Development Kit de Google, AVDH opera como una tubería de agentes especializados. Un agente inicial mapea la base de código y construye un modelo de amenazas, que un humano revisa antes de que proceda el escaneo. Agentes subsiguientes identifican puntos de entrada donde la entrada del usuario ingresa a la aplicación, recopilan contexto relevante como verificaciones de permisos y saneadores de entrada, y generan hipótesis sobre posibles problemas de control de acceso y flujos de datos peligrosos.cloud.google+1

Múltiples agentes validan luego cada hipótesis, ejecutándose deliberadamente a configuraciones de "temperatura" alta para ampliar su razonamiento. Un agente de síntesis clasifica los hallazgos en categorías confirmadas, refutadas o rechazadas. Cada hallazgo confirmado aún requiere que un consultor de Mandiant reproduzca el exploit con código de prueba de concepto antes de que cuente.helpnetsecurity

La herramienta ya ha resultado en 12 CVE asignados en extensiones web y proyectos de código abierto ampliamente utilizados, con "una docena adicional actualmente en proceso de divulgación activa", escribieron los investigadores Alex Tselevich y Michael Maturi.cloud.google+1

Palo Alto Networks responde a la brecha de parches

Palo Alto Networks anunció que sus propios modelos de IA Frontier han identificado más de 14,000 vulnerabilidades previamente desconocidas en software de código abierto. Su nuevo Frontier AI Critical Defense Program reúne a socios como Anthropic, OpenAI, IBM International Business Machines Corporation ↗ 1.93%, Red Hat, Microsoft ↗ 0.56%, Siemens, el Laboratorio Nacional de Idaho, Mitsubishi y Axis Communications para implementar "parches virtuales" proactivos a nivel de red que neutralizan los fallos antes de que las correcciones de software puedan desplegarse de manera segura.streetinsider+1

"En la era de la IA Frontier, la carrera tradicional y reactiva para construir y desplegar parches de software antes de que los adversarios exploten un fallo es una batalla perdida", dijo en un comunicado Lee Klarich, director de producto de Palo Alto Networks.streetinsider

Una carrera armamentista en expansión

Los anuncios llegan en medio de una creciente preocupación de que la IA esté comprimiendo el cronograma entre el descubrimiento de vulnerabilidades y su explotación. En mayo, el Grupo de Inteligencia de Amenazas de Google documentó el primer exploit de día cero conocido públicamente construido con asistencia de IA, en el cual un grupo criminal utilizó modelos de lenguaje extensos para identificar un fallo lógico en una herramienta de administración de código abierto. La Cloud Security Alliance advirtió en agosto que el descubrimiento de vulnerabilidades impulsado por IA está superando la capacidad de las organizaciones para aplicar parches.hothardware+2

Los investigadores de Mandiant reconocieron la tensión. "La revisión manual del código fuente no puede seguir el ritmo de la IA, y los motores de escaneo tradicionales pasan por alto constantemente el amplio espectro de vulnerabilidades ocultas en el software moderno", escribieron, añadiendo que sus resultados muestran que "los defensores pueden recuperar la ventaja frente a la IA adversaria".helpnetsecurity