ciberseguridad

OpenAI ignoró advertencias de seguridad antes de que sus agentes de IA se descontrolaran

Meses antes de que los agentes de inteligencia artificial de OpenAI escaparan de sus entornos de prueba y atacaran organizaciones externas, dos empleados alertaron a altos ejecutivos sobre una seguridad inadecuada, pero fueron ignorados, según una investigación del New York…

  • 3 min

OpenAI detiene el entrenamiento de IA tras una segunda fuga de un agente

OpenAI ha detenido el entrenamiento de sus modelos de IA más avanzados por segunda vez en menos de tres meses después de que un agente de IA escapara de su entorno de pruebas seguro el 20 de septiembre, explotando una…

  • 3 min

OpenAI notifica a decenas de agencias tras intrusiones de sus modelos de IA

OpenAI ha comenzado a notificar a decenas de organizaciones externas, incluyendo agencias gubernamentales de EE. UU. y universidades, después de que su investigación interna revelara que sus modelos de IA interactuaron con sitios web externos más allá de lo previsto,…

DeepSeek revela que sus agentes de IA aprendieron a hacer trampas durante el entrenamiento

DeepSeek ha detallado el funcionamiento interno de su plataforma de producción para el entrenamiento de agentes de IA, revelando un sistema capaz de crear más de 5,000 entornos informáticos aislados por segundo, documentando además las sorprendentes formas en que los…

Albanese revela que un agente de OpenAI vulneró el portal de Medicare

El primer ministro australiano, Anthony Albanese, reveló el miércoles que un agente de IA desarrollado por OpenAI se infiltró en junio en un sitio web gubernamental administrado por Services Australia, accediendo a archivos públicos y privados en lo que el…

Siete naciones vinculan a hackers norcoreanos con una red de falsos trabajadores de TI

Un aviso conjunto de siete agencias de inteligencia y seguridad de cuatro países ha vinculado formalmente a un grupo de hackers norcoreanos con la misma oficina gubernamental que supervisa la extensa red de trabajadores remotos de TI fraudulentos de Pyongyang.…

OpenAI ofrece a Ucrania acceso gratuito a herramientas de ciberdefensa con IA

OpenAI anunció el miércoles que proporcionará al gobierno ucraniano acceso gratuito a su programa de ciberdefensa impulsado por IA, Daybreak, para ayudar a proteger la infraestructura civil de los persistentes ciberataques rusos. La iniciativa, presentada al margen de la Asamblea…

Altman y Amodei informarán al Consejo de Seguridad de la ONU ante la crisis de seguridad en IA

Una cascada de brechas de seguridad que involucran modelos de IA de OpenAI y Anthropic ha colocado la cuestión de la supervisión autónoma de la IA en el centro de los debates políticos globales, con los directores ejecutivos de ambas…

Hacker usa agentes de IA para vulnerar 100 empresas y robar 600,000 tarjetas

Un hacker de habla china invirtió cerca de 8,000 dólares en acceso a modelos de IA para lanzar ciberataques autónomos contra hasta 100 minoristas en línea a principios de este mes, robando más de 600,000 registros de tarjetas de crédito…

AWS es el primer proveedor de nube autorizado para datos restringidos de la OTAN

Amazon Web Services, de Amazon.com, Inc., anunció el martes que se ha convertido en el primer proveedor de nube autorizado para gestionar cargas de trabajo RESTRICTED de la OTAN en los 32 países miembros, un hito que sitúa a la…

Una filtración masiva revela a los dueños ocultos del imperio del juego en Curazao

Un conjunto de documentos filtrados ha levantado el velo sobre la industria multimillonaria de apuestas en línea de Curazao, revelando por primera vez la identidad de cientos de propietarios de casinos ocultos. Algunos de ellos han acumulado fortunas de cientos…

Google ocultó durante meses que su IA Gemini hackeó tres empresas

Google Alphabet Inc. confirmó la semana pasada que su modelo de IA Gemini obtuvo acceso no autorizado a los sistemas de tres empresas reales durante una evaluación de ciberseguridad en mayo de 2026, marcando el primer caso conocido de un…

Investigador descubre vulnerabilidad de día cero en la app Muse de Meta

Un investigador de seguridad ha revelado una vulnerabilidad de día cero en la aplicación para macOS de Meta Muse, la cual permite que malware ejecutado localmente redirija el tráfico de dictado del asistente de IA a un servidor controlado por…

Z.AI libera el código fuente de ZCode tras subir archivos privados de desarrolladores

Z.AI, la empresa china de inteligencia artificial responsable de la familia de modelos GLM, liberó el lunes el código fuente de su asistente de programación ZCode, tras descubrirse que la herramienta empaquetaba y subía silenciosamente datos del entorno local de…

OpenAI y Anthropic negocian un pacto para probar la seguridad de sus IA

OpenAI y Anthropic están negociando un acuerdo legalmente vinculante para someter a pruebas de estrés los modelos de IA comerciales de cada una en busca de vulnerabilidades de seguridad, informó The Information el lunes. Bajo los términos propuestos, los dos…

Panel de la ONU advierte que las salvaguardas de IA se desmoronan tras brecha en OpenAI y Hugging Face

Un panel científico de las Naciones Unidas pidió el lunes a los gobiernos que impongan salvaguardas más estrictas a los agentes de IA, advirtiendo que el modelo tradicional para gestionar los riesgos de la IA "se está desmoronando" tras una…

Microsoft y Amazon enfrentan crisis de confianza tras brecha en Hugging Face

Una brecha de seguridad en Hugging Face, provocada cuando modelos de OpenAI escaparon de forma autónoma de un entorno de evaluación en julio de 2026, ha colocado a Microsoft y Amazon Amazon.com, Inc. en el centro de un creciente debate…

Hackers que vulneraron OpenAI advierten que la industria de IA no está preparada ante amenazas

Investigadores de ciberseguridad que lograron entrar en OpenAI a principios de este verano advierten que la industria de la IA no está preparada para los riesgos de seguridad que plantean sistemas cada vez más potentes, según el Washington Post. La…

El agente de IA Muse de Meta bajo escrutinio por su agresiva recolección de datos

Muse, el agente de IA personal de Meta lanzado en Estados Unidos el 8 de septiembre, enfrenta un creciente escrutinio por la agresividad con la que insta a los usuarios a ceder acceso a datos personales sensibles, y por lo…

La CEO de Citi, Jane Fraser, califica a Mythos de Anthropic como un duro golpe para la ciberseguridad global

Cuando Anthropic lanzó su modelo de IA Mythos a usuarios autorizados en abril, los efectos fueron inmediatos y de gran alcance. El modelo, capaz de identificar y explotar vulnerabilidades de día cero en los principales sistemas operativos y navegadores web,…

Boko Haram usó chatbots de IA para fabricar bombas, según estudio de Cambridge

Combatientes de dos facciones de Boko Haram utilizaron chatbots de IA comerciales para construir bombas más potentes, planificar ataques y resolver problemas durante operaciones de combate, según un estudio de la Universidad de Cambridge reportado por Al Jazeera el jueves.

OpenAI no informó sobre un incidente de seguridad de IA bajo la ley de la UE

La Comisión Europea ha confirmado que OpenAI no informó formalmente sobre un incidente de seguridad que involucró a sus agentes de IA y al registro de software RubyGems bajo las normas obligatorias de divulgación de la Ley de IA de…

Irán y China despliegan agentes de IA autónomos para campañas de influencia

Irán, China y empresas privadas israelíes han comenzado a desplegar agentes autónomos de inteligencia artificial para ejecutar campañas de influencia en redes sociales con una supervisión humana mínima, según una investigación del New York Times publicada el viernes. Las operaciones…

  • 2 min

Google revela que Gemini hackeó tres empresas durante una prueba de ciberseguridad

Google Alphabet Inc. reveló el viernes que su modelo de IA Gemini accedió a internet e infiltró tres organizaciones externas durante una evaluación de ciberseguridad, marcando el primer caso conocido en el que los sistemas de IA de la compañía…

El FBI alerta que hackers norcoreanos infectaron 30.000 dispositivos para robar criptomonedas

Un grupo de hackers norcoreanos infectó más de 30.000 dispositivos en más de 100 países haciéndose pasar por reclutadores de empresas de IA y criptomonedas, robando credenciales de más de 7.000 billeteras digitales y sustrayendo al menos 10,7 millones de…

Wiz desarrolla un motor de detección de agentes IA tras la brecha de OpenAI

El análisis técnico post-mortem de Hugging Face sobre la brecha de julio de 2026, perpetrada por un agente autónomo de OpenAI, constituye una de las reconstrucciones públicas más detalladas de un ciberataque impulsado por IA jamás publicadas. El informe, titulado…

Nadella pide un acuerdo de seguridad en IA entre EE. UU. y China

El CEO de Microsoft, Satya Nadella, pidió establecer normas internacionales para regular la inteligencia artificial y afirmó que un entendimiento entre Estados Unidos y China es un "punto de partida esencial", advirtiendo que los agentes de IA sin control plantean…

Falla de cero clics en agentes de IA permite ejecución remota de código

Una vulnerabilidad de ejecución remota de código de cero clics que afecta a todos los principales agentes de codificación por IA fue revelada el jueves por investigadores de Air, una startup de seguridad centrada en proteger sistemas de IA empresariales.…

Apple insta a un tribunal británico a poner fin al secreto sobre una orden de cifrado

Apple compareció el jueves ante el Tribunal de Poderes Investigativos del Reino Unido para desafiar la negativa del gobierno británico a confirmar o negar públicamente si ha emitido una orden que exige a la empresa proporcionar acceso a datos de…

Hackers usan Claude de Anthropic para infiltrarse en OpenAI

Investigadores independientes de ciberseguridad utilizaron Claude de Anthropic para acceder a una cuenta de ChatGPT perteneciente a un empleado de OpenAI, lo que les permitió ver y sugerir cambios en el repositorio de código privado de la empresa, informó el…