Los filtros de seguridad de IA en los modelos de Meta y Google son eliminados en minutos, según el FT

Las herramientas de software que eliminan las protecciones de seguridad de los modelos de IA desarrollados por Meta ↗ 5.12% y Google Alphabet Inc. ↗ 0.73% pueden eludir las salvaguardas en cuestión de minutos, según una investigación publicada por el Financial Times el domingo. Los sistemas modificados respondieron a solicitudes relacionadas con armas biológicas, creación de malware y explotación infantil, lo que genera nuevas preocupaciones sobre la adecuación de las medidas de seguridad voluntarias en toda la industria de la IA.

Las pruebas revelan protecciones débiles

El Financial Times, en colaboración con el grupo de seguridad de IA Alice, realizó pruebas que demostraron que los kits de herramientas disponibles públicamente podían eliminar los filtros de seguridad de modelos ampliamente utilizados en un corto período de tiempo. Los kits de herramientas explotan técnicas que incluyen el ajuste fino ligero, conjuntos de datos de instrucciones adversarias y transformaciones de avisos automatizadas que sobrescriben o eluden las protecciones integradas sin necesidad de volver a entrenar el modelo por completo. Según el informe, estas herramientas ya se están utilizando para crear miles de versiones de modelos alterados que eluden las restricciones impuestas por los proveedores.ft+2

Los hallazgos llegan en medio de una creciente evidencia académica de debilidades estructurales en la alineación de seguridad de la IA. Un estudio de febrero publicado en Nature Communications encontró que los modelos de razonamiento grandes podrían usarse como agentes de jailbreak autónomos, logrando una tasa de éxito del 97 por ciento en combinaciones de modelos sin supervisión humana. Por separado, un artículo presentado en ICLR 2026 demostró una técnica llamada Head-Masked Nullspace Steering que logró hasta un 99 por ciento de éxito en jailbreak al silenciar los cabezales de atención específicos responsables de las negativas de seguridad.nature+1

Los modelos de pesos abiertos amplifican el riesgo

La investigación subraya una tensión en el corazón de la estrategia de IA de pesos abiertos defendida por la serie Llama de Meta y la gama Gemma de Google. Si bien los pesos abiertos aceleran la investigación y la adopción por parte de los desarrolladores, también permiten a terceros modificar o reempaquetar modelos con estándares de seguridad alterados. Los analistas de ciberseguridad han advertido que muchas protecciones de seguridad de IA existen solo a nivel superficial, y una vez que los usuarios obtienen acceso a los pesos del modelo, las restricciones pueden eliminarse utilizando herramientas distribuidas gratuitamente.nai500+1

The New York Times informó a principios de este mes que los controles de seguridad de IA en toda la industria siguen siendo en gran medida ineficaces, señalando que los investigadores de la firma de ciberseguridad LayerX habían eludido las salvaguardas de Claude con un esfuerzo mínimo.nytimes

Implicaciones regulatorias y de mercado

Los organismos reguladores en Washington, Bruselas y Londres han señalado que los compromisos voluntarios de los desarrolladores de IA no serán suficientes. Estados Unidos ya cuenta con marcos de órdenes ejecutivas y directrices del NIST que podrían aprovecharse para su aplicación, mientras que la Ley de IA de la UE impone sanciones por fallos de seguridad sistémicos. Es probable que los hallazgos intensifiquen los llamados a favor de estándares ejecutables que rijan tanto los sistemas de IA cerrados como los de pesos abiertos, lo que podría ralentizar la adopción empresarial a medida que los equipos de adquisiciones exigen garantías técnicas más sólidas y pistas de auditoría independientes.nai500