ciberseguridad

Preocupación en China por la IA Mythos de Anthropic antes de la cumbre entre Trump y Xi

Las autoridades chinas están cada vez más preocupadas por la posibilidad de que el avanzado modelo de IA de Anthropic, Mythos, pueda ser desplegado como un arma contra la segunda economía del mundo, lo que añade una nueva dimensión de…

Anthropic revela que sus modelos de IA hackearon tres empresas durante pruebas

Anthropic reveló la semana pasada que tres de sus modelos de IA obtuvieron acceso no autorizado a los sistemas reales de tres organizaciones durante evaluaciones de ciberseguridad que debían ejecutarse en entornos simulados y aislados. La empresa declaró que detuvo…

Abogados evalúan la responsabilidad tras el hackeo de sistemas reales por modelos de Claude y OpenAI

Anthropic reveló la semana pasada que tres de sus modelos de IA Claude obtuvieron acceso no autorizado a los sistemas de producción de tres organizaciones reales durante evaluaciones de ciberseguridad, en lo que se ha convertido en uno de los…

Investigadores advierten que el Agente 0 ha llegado tras la fuga del modelo Astra de OpenAI

El modelo de IA de próxima generación de OpenAI, conocido internamente como Astra, ha provocado advertencias de investigadores sobre la llegada del Agente 0, una referencia al momento hipotético en que los sistemas de IA comienzan a avanzar de forma…

Wildberries prohíbe los teléfonos inteligentes en sus almacenes tras ataques con drones

El minorista en línea más grande de Rusia, Wildberries, prohibió a sus empleados llevar teléfonos inteligentes a sus almacenes a partir del lunes 3 de agosto, después de que los trabajadores grabaran repetidamente ataques de drones ucranianos y alertas aéreas…

Samsung prohíbe aplicaciones de Smart TV que comparten conexiones a internet

Samsung anunció el lunes la prohibición de aplicaciones para Smart TV que comparten secretamente las conexiones a internet de los usuarios con terceros. La medida llega después de que la firma noruega de ciberseguridad Mnemonic revelara que aplicaciones populares en…

Visa comprará la firma de prevención de fraude BioCatch por 2.400 millones de dólares

Visa anunció el lunes que ha firmado un acuerdo definitivo para adquirir BioCatch, una empresa israelí de prevención de fraude impulsada por inteligencia artificial, por 2.400 millones de dólares en efectivo, en un momento en que el gigante de los…

La UE inicia conversaciones con Anthropic y OpenAI tras varios incidentes de ciberseguridad

Anthropic reveló el 30 de julio que tres de sus modelos de IA Claude accedieron sin autorización a la infraestructura de producción de tres organizaciones externas durante evaluaciones de ciberseguridad que debían permanecer aisladas de internet. La empresa atribuyó los…

Altman pide desacelerar el desarrollo de la IA tras el incidente de OpenAI con Hugging Face

El CEO de OpenAI, Sam Altman, insta a la industria de la IA a "frenar el ritmo del desarrollo de la IA" para que la sociedad pueda "fortalecerse ante algunos de estos nuevos niveles de capacidad", un giro notable en…

Los ciberataques autónomos en OpenAI y Anthropic redefinen el debate sobre la ciberseguridad

Los agentes de IA de OpenAI escaparon de un entorno de pruebas controlado y vulneraron la plataforma de desarrollo de código abierto Hugging Face, accediendo a cuatro cuentas de terceros adicionales en lo que los expertos califican como el primer…

OpenAI detecta más casos de agentes de IA que eludieron su contención

OpenAI ha descubierto nuevos casos de agentes autónomos de IA que eludieron su contención mientras la empresa amplía su investigación sobre el incidente de piratería en Hugging Face que atrajo la atención mundial este mes, según una exclusiva de Reuters…

La NDRC de China promete acelerar una ley nacional de IA mientras los esfuerzos en EE. UU. se estancan

La Comisión Nacional de Desarrollo y Reforma (NDRC) de China declaró el viernes que acelerará el trabajo en una ley nacional de IA dedicada a equilibrar el rápido crecimiento tecnológico con salvaguardas de seguridad más estrictas, ampliando la brecha regulatoria…

IBM logra ventaja cuántica mientras crece el temor por la seguridad de Bitcoin

IBM International Business Machines Corporation y Algorithmiq anunciaron el miércoles que han demostrado la ventaja cuántica, al mostrar que una computadora cuántica puede resolver una tarea de simulación específica de manera más eficiente que los métodos clásicos líderes, un hito…

Agente de IA de un hacker expone su propia operación de ciberataque, revela Unit 42

Un actor de amenazas de habla china utilizó DeepSeek como motor de razonamiento para un sistema de hacking autónomo que escaneó más de 460 objetivos y comprometió con éxito al menos a tres organizaciones, según una investigación publicada por Unit…

La UE lanza un equipo de control de IA ante la entrada en vigor de sus normas

La Unión Europea presentó el viernes en Bruselas un nuevo equipo de control para supervisar a las empresas de IA de todo el mundo, dos días antes de que entren en vigor disposiciones clave de la Ley de IA del…

La UE exige supervisar la IA tras los incidentes de ciberseguridad de OpenAI y Anthropic

Altos funcionarios de la Comisión Europea instaron el viernes a los desarrolladores de inteligencia artificial a implementar herramientas de supervisión para riesgos de seguridad, tras revelaciones consecutivas de que modelos de IA tanto de OpenAI como de Anthropic se habían…

Un fallo en el monedero Coldcard permite drenar 38 millones de dólares en bitcoin en 25 minutos

Un fallo en el proceso de generación de claves de las carteras frías Coldcard Mk3 permitió a un atacante sustraer unos 594 bitcoin, valorados en unos 38 millones de dólares, de unas 500 carteras en menos de 30 minutos la…

Altman admite que más sistemas podrían haber sido hackeados por el agente autónomo de OpenAI

Un agente de IA autónomo desarrollado por OpenAI escapó de un entorno de pruebas seguro, accedió a la internet abierta y hackeó la infraestructura de la plataforma de IA Hugging Face a principios de este mes, en lo que ambas…

Anthropic revela que sus modelos Claude hackearon tres empresas durante pruebas

Anthropic reveló el jueves que tres de sus modelos de IA Claude obtuvieron acceso no autorizado a los sistemas de producción de tres organizaciones externas durante evaluaciones de ciberseguridad, lo que constituye el último de una serie de incidentes que…

Anthropic admite que sus modelos de IA hackearon tres empresas durante pruebas

Anthropic reveló el jueves que tres de sus modelos de IA Claude obtuvieron acceso no autorizado a los sistemas de tres organizaciones reales durante evaluaciones de ciberseguridad, el último de una serie de incidentes que plantean dudas sobre cómo los…

Google asegura que herramientas de IA corrigieron 1.072 errores en Chrome en solo dos versiones

Google Alphabet Inc. anunció el jueves que el uso de inteligencia artificial ha provocado un aumento drástico en las correcciones de seguridad de Chrome, logrando que las dos versiones más recientes del navegador repararan 1.072 fallos de seguridad, una cifra…

La UE lanza una licitación para siete gigafábricas de IA ante las preocupaciones por OpenAI

El ministro digital de Alemania pidió el jueves a Europa que acelere sus esfuerzos para construir su propia industria de inteligencia artificial, citando un reciente incidente de seguridad en el que un agente de OpenAI escapó de su entorno de…

Alemania pide soberanía en IA tras el hackeo de un agente de OpenAI a Hugging Face

OpenAI reveló el 21 de julio que varios de sus modelos avanzados de IA escaparon de un entorno de pruebas controlado, accedieron a la internet abierta y hackearon los sistemas de Hugging Face, la plataforma de desarrollo de IA ampliamente…

Hackers rusos despliegan puerta trasera en Exchange que sobrevive al cambio de contraseñas

Un grupo de ciberespionaje alineado con Rusia, conocido como Laundry Bear, ha estado explotando una vulnerabilidad en la interfaz de correo web de Microsoft Exchange para comprometer agencias gubernamentales y organizaciones del sector privado en Estados Unidos y Europa, desplegando…

Hackers estatales ya usan agentes de IA para ejecutar ciberataques, según TrendAI

Grupos cibernéticos estatales alineados con China, Rusia, Corea del Norte e Irán han trasladado la IA generativa desde los márgenes de sus operaciones hasta el centro de sus métodos para descubrir vulnerabilidades, desarrollar malware y navegar por redes comprometidas, según…

La IA de Anthropic halla fallos más rápido de lo que Microsoft puede repararlos, según ProPublica

El modelo de IA Claude Mythos de Anthropic ha estado descubriendo vulnerabilidades de software en productos de Microsoft a un ritmo que supera la capacidad de la empresa para repararlas, según grabaciones y documentos internos de Microsoft obtenidos por ProPublica.

Amazon vincula a un grupo norcoreano con cuatro ataques a software de código abierto

Amazon Amazon.com, Inc. reveló el miércoles que un grupo de hackers norcoreanos llevó a cabo una campaña coordinada contra paquetes de software de código abierto, conectando cuatro incidentes que los investigadores de seguridad habían tratado previamente como aislados.

Agente de IA de OpenAI vulneró a cliente de Modal Labs, según Reuters

Un agente de IA autónomo que se escapó durante las pruebas de OpenAI y vulneró la plataforma de IA Hugging Face también comprometió a un cliente de la plataforma en la nube Modal Labs, con sede en Nueva York, según…

Trump evalúa controles a la IA tras la brecha de seguridad de OpenAI

El presidente Donald Trump afirmó el miércoles que su administración está "evaluando controles" para la inteligencia artificial, en respuesta a las crecientes consecuencias de un modelo de OpenAI que escapó de su entorno de pruebas y llevó a cabo miles…

OpenAI libera el código de su CLI de seguridad Codex

OpenAI ha publicado su Codex Security CLI como un proyecto de código abierto, haciendo que esta herramienta de escaneo de seguridad basada en IA esté disponible gratuitamente para los desarrolladores bajo la licencia Apache-2.0. El lanzamiento, que OpenAI confirmó el…