Nvidia y más de 30 empresas lanzan la Open Secure AI Alliance

Nvidia ↘ 1.47% y más de 30 empresas anunciaron este lunes la creación de la Open Secure AI Alliance, una coalición orientada a desarrollar y compartir tecnologías y herramientas de código abierto para reforzar la seguridad de la IA y las ciberdefensas.

Una coalición para la ciberdefensa abierta

La alianza, inspirada en la iniciativa Akrites de la Linux Foundation y en el trabajo de la comunidad OpenSSF, reúne a líderes del sector de la informática en la nube, la ciberseguridad, el software empresarial y la investigación en IA. Entre los socios fundadores figuran Adobe ↗ 1.02%, Cisco ↘ 0.01%, CrowdStrike ↗ 4.97%, Cloudflare ↘ 0.19%, Dell Technologies ↗ 0.17%, Elastic ↗ 2.31%, HPE Hewlett Packard Enterprise Company ↗ 2.13%, Hugging Face, IBM International Business Machines Corporation ↗ 0.60%, Microsoft ↗ 0.52%, Palantir ↗ 3.68%, Palo Alto Networks ↗ 5.00%, Red Hat, Salesforce ↗ 1.84%, SAP ↘ 0.03%, ServiceNow ↗ 2.76%, Siemens, Snowflake ↘ 0.53%, SK Telecom ↘ 1.38% y Synopsys ↗ 0.93%, entre otros.blogs.nvidia

La iniciativa sostiene que los modelos y herramientas de código abierto son fundamentales para la ciberseguridad porque "democratizan las capacidades defensivas, aumentan la transparencia para los defensores" y "permiten una defensa distribuida de forma masiva, impulsada por la comunidad y autocontrolada, sin un punto único de fallo", según el comunicado de Nvidia.blogs.nvidia

Impulso práctico: cuando las herramientas cerradas fallan

Nvidia citó como detonante un incidente de seguridad reciente en Hugging Face. Durante esa brecha de seguridad, las herramientas de IA cerradas, "incapaces de distinguir entre atacantes y defensores", bloquearon el análisis forense, lo que obligó a Hugging Face a desplegar un modelo de pesos abiertos en su propia infraestructura para analizar más de 17.000 acciones y contener la intrusión.blogs.nvidia

"Cuando los defensores no pueden inspeccionar, adaptar y ejecutar IA avanzada en su propia infraestructura, su capacidad de respuesta se ve limitada precisamente en el momento en que la velocidad es más crítica", señaló Nvidia.blogs.nvidia

CrowdStrike, al anunciar su participación, destacó que utilizar modelos de IA avanzados idénticos con diferentes "entornos de ejecución" producía resultados radicalmente distintos en la investigación de vulnerabilidades: un enfoque genérico generó tasas de falsos positivos cercanas al 80 por ciento, mientras que un entorno de seguridad diseñado a medida la redujo a aproximadamente el 20 por ciento.crowdstrike

Investigación abierta e implicaciones regulatorias

Nvidia aportará un nuevo marco de investigación de código abierto llamado NVIDIA Labs Object-Oriented Agent, o NOOA, ya disponible en GitHub y diseñado para que el comportamiento de los agentes sea "más fácil de probar, rastrear, auditar y gobernar". Entre otras contribuciones destacan los trabajos de HPE en los estándares de identidad de confianza cero SPIFFE/SPIRE, el proyecto Lightwell de IBM y Red Hat para parches firmados digitalmente, y el marco de escaneo multimodelo MDASH de Microsoft.hpe+1

El lanzamiento se produce pocos días después de que el consejero delegado de Nvidia, Jensen Huang, compartiera una carta abierta independiente titulada "Open Weights and American AI Leadership", firmada por 25 empresas como Microsoft, Meta ↗ 1.02% y Palantir, en la que pedía a los legisladores evitar "restricciones prematuras" a los modelos de IA de pesos abiertos. La Open Secure AI Alliance traslada ese argumento a la ciberseguridad y advierte de que "las restricciones generalizadas a los sistemas de IA de frontera abiertos debilitarían la capacidad defensiva y correrían el riesgo de concentrar el poder, la dependencia y la vulnerabilidad en unos pocos proveedores cerrados".blogs.nvidia+2