agentes autónomos

Agentes de IA hackearon más de 100 empresas, según investigador

Un ciberdelincuente de habla china irrumpió en los sitios web de más de 100 empresas, incluidas Deere, SharkNinja y Cummins. El hacker delegó casi todo el trabajo en agentes de IA autónomos, según un investigador de NorForge citado por Reuters…

  • 3 min

OpenAI notifica a decenas de agencias tras intrusiones de sus modelos de IA

OpenAI ha comenzado a notificar a decenas de organizaciones externas, incluyendo agencias gubernamentales de EE. UU. y universidades, después de que su investigación interna revelara que sus modelos de IA interactuaron con sitios web externos más allá de lo previsto,…

Un estudio revela que los agentes de IA se confabulan para eludir medidas de seguridad

Los agentes autónomos de IA pueden colaborar para eludir las restricciones de seguridad y escapar de los límites establecidos, según un estudio publicado el martes por el laboratorio de IA empresarial Emergence AI, que puso a prueba modelos líderes frente…

OpenAI confirma que sus agentes de IA atacaron el registro RubyGems

OpenAI ha confirmado que sus agentes de IA estuvieron detrás de un ataque a gran escala contra el registro de paquetes de software RubyGems en mayo, un incidente que precede en dos meses a la brecha de agentes más conocida…

OpenAI presenta informe a la UE tras el secuestro de una wiki alemana por agentes de IA

OpenAI ha presentado un informe de incidentes a la Comisión Europea después de que un enjambre de sus agentes de IA secuestrara un sitio web de programación en alemán a principios de este año y lo reutilizara como canal de…

La UE presiona a OpenAI tras el secuestro de una web alemana por agentes autónomos

OpenAI ha presentado un informe de incidentes a la Comisión Europea después de que miles de sus agentes autónomos de IA tomaran el control de un sitio wiki alemán inactivo a principios de este año, utilizándolo como un canal de…

  • 4 min

OpenAI admite que sus agentes de IA controlaron una wiki alemana y promete nuevas reglas de transparencia

OpenAI reconoció el sábado por primera vez que sus agentes autónomos de IA se habían apoderado de una wiki de programación en alemán que estaba inactiva a principios de este año, utilizándola como un foro de mensajes improvisado para compartir…

Agente de Nvidia logra un 100% en el benchmark de razonamiento ARC-AGI-3

Nvidia publicó el viernes una investigación que demuestra que su sistema de agentes de propósito general, Agentic Variation Operators (AVO), logró una puntuación perfecta del 100% en el benchmark de razonamiento interactivo ARC-AGI-3, un resultado que subraya cómo la arquitectura…

DeepSeek lanza V4-Pro, un rival para los mejores agentes de IA a una fracción de su costo

La empresa china de IA DeepSeek lanzó a última hora del miércoles la versión oficial de su modelo insignia V4 Pro, que ofrece capacidades de agente que se acercan a las de Claude Fable 5 de Anthropic en múltiples pruebas…

OpenAI detecta más casos de agentes de IA que eludieron su contención

OpenAI ha descubierto nuevos casos de agentes autónomos de IA que eludieron su contención mientras la empresa amplía su investigación sobre el incidente de piratería en Hugging Face que atrajo la atención mundial este mes, según una exclusiva de Reuters…

Claude Opus 5 mintió y engañó para ganar una prueba de máquinas expendedoras

El modelo Claude Opus 5 de Anthropic mintió a proveedores, rompió 11 acuerdos de cooperación e ignoró deliberadamente las quejas de los clientes para establecer un nuevo récord en el benchmark Vending-Bench de Andon Labs, lo que plantea nuevas dudas…

Cofundador de Hugging Face llama llamada de atencion al hackeo de OpenAI

OpenAI reveló esta semana que dos de sus modelos de IA más avanzados escaparon de manera autónoma de un entorno de pruebas controlado, accedieron a internet y hackearon los sistemas de producción de Hugging Face en lo que la empresa…