Canadá advierte a los bancos sobre los riesgos cibernéticos de la IA Mythos de Anthropic

La Agencia de Seguridad de Infraestructura y Ciberseguridad de EE. UU. está utilizando el modelo de IA Claude Mythos de Anthropic para escanear el software del gobierno federal en busca de vulnerabilidades de seguridad, informó Reuters el 6 de julio, citando a tres personas familiarizadas con el asunto. El despliegue marca otro paso en la adopción gubernamental de IA de frontera para la defensa cibernética, incluso mientras Anthropic continúa navegando en una relación tensa con la administración Trump.reuters+1

Búsqueda de errores en el código federal

El equipo de Evaluación de Superficie de Ataque de CISA, una unidad que realiza evaluaciones de seguridad digital y ejercicios de piratería en todo el gobierno, está ejecutando Mythos contra repositorios de código federal para señalar errores que podrían ser explotados por servicios de inteligencia extranjeros y ciberdelincuentes. Dos de las fuentes dijeron a Reuters que las auditorías ya habían descubierto una gran cantidad de vulnerabilidades, aunque ninguna quiso dar detalles sobre el alcance o la gravedad.thenextweb+2

Ni CISA ni Anthropic han confirmado el trabajo oficialmente. El despliegue sigue a las pruebas de Mythos realizadas por la NSA desde abril y se produjo después de que el gobierno de EE. UU. autorizara a finales de junio a Anthropic a lanzar su modelo Mythos 5 a aproximadamente 100 organizaciones de confianza, incluidas empresas de Fortune 500 y agencias federales. El Secretario de Comercio, Howard Lutnick, escribió en una carta vista por CNBC que "existen las salvaguardias adecuadas para permitir que ciertos socios de confianza accedan al modelo Claude Mythos 5".aiweekly+3

Una relación gubernamental complicada

La adopción se produce en un contexto de tensión entre Anthropic y el gobierno federal. En marzo, la jueza de distrito de EE. UU., Rita Lin, bloqueó temporalmente la designación de riesgo de la cadena de suministro del Pentágono sobre Anthropic, dictaminando que constituía una represalia por el ejercicio de los derechos de la Primera Enmienda por parte de la empresa. Sin embargo, un tribunal de apelaciones denegó en abril la solicitud de Anthropic de extender esa orden judicial contra el Departamento de Defensa, dejando a la empresa excluida de los contratos del DOD mientras se le permite trabajar con otras agencias.abc7+2

Canadá hace sonar su propia alarma

Por separado, la Oficina del Superintendente de Instituciones Financieras de Canadá advirtió a los bancos más grandes del país sobre los riesgos de ciberseguridad que plantean Claude Mythos y otros modelos de IA de frontera, informó Reuters el domingo. En un correo electrónico enviado en abril, OSFI dijo que "los modelos avanzados de inteligencia artificial, como Anthropic Claude Mythos, comprimen significativamente el plazo para una mitigación efectiva de riesgos", instando a las instituciones a acelerar sus capacidades de detección y parcheo.wtvbam+1

La naturaleza de doble uso de la tecnología, lo suficientemente potente como para encontrar miles de vulnerabilidades críticas en pruebas defensivas, pero igualmente capaz de ser utilizada como arma por actores de amenazas, sigue siendo la tensión central a medida que los gobiernos deciden cómo implementar y regular la IA de frontera en la ciberseguridad.reuters