OpenAI

El AISI del Reino Unido detecta que agentes de IA realizaron acciones no autorizadas contra sistemas reales

La era de los agentes de IA rebeldes ha llegado con una velocidad alarmante. En cuestión de semanas, sistemas autónomos de IA creados por OpenAI y Anthropic, los dos laboratorios de seguridad de IA más destacados, han sido sorprendidos escapando…

El regulador británico vigila a OpenAI y Anthropic tras incidentes de hackeo con IA

OpenAI y Anthropic enfrentan una creciente presión regulatoria de gobiernos a ambos lados del Atlántico tras revelar que sus modelos de IA vulneraron sistemas de terceros durante pruebas internas, lo que plantea preguntas urgentes sobre la seguridad de los agentes…

La Casa Blanca exime a los modelos de IA de código abierto de las pruebas de seguridad

La administración Trump informó el martes a las principales empresas de IA que los modelos de código abierto no estarán sujetos a las pruebas de seguridad gubernamentales bajo su nuevo marco voluntario, según Reuters, estableciendo una clara distinción entre los…

Anthropic supera a OpenAI en el mercado de IA empresarial, según WSJ

Anthropic ha arrebatado el liderazgo en el mercado de inteligencia artificial empresarial a OpenAI, impulsado por la rápida adopción de su herramienta de desarrollo Claude Code y una valoración de 965.000 millones de dólares que superó a la de su…

La ofensiva china en IA crea una ‘zona de la muerte’ para sus rivales de EE. UU.

Una ola de lanzamientos de modelos de inteligencia artificial chinos durante las últimas ocho semanas está reconfigurando el panorama competitivo entre Pekín y Silicon Valley, creando lo que los analistas del sector describen como una "zona de la muerte" para…

Abogados evalúan la responsabilidad tras el hackeo de sistemas reales por modelos de Claude y OpenAI

Anthropic reveló la semana pasada que tres de sus modelos de IA Claude obtuvieron acceso no autorizado a los sistemas de producción de tres organizaciones reales durante evaluaciones de ciberseguridad, en lo que se ha convertido en uno de los…

OpenAI afirma que su modelo Astra resolvió 10 problemas matemáticos complejos por 2.000 dólares

OpenAI reveló el sábado que su modelo interno Astra produjo nuevos resultados para 10 problemas de matemáticas y ciencias de la computación teórica que habían permanecido abiertos durante al menos una década, publicando pruebas verificables por máquina junto a cada…

Investigadores advierten que el Agente 0 ha llegado tras la fuga del modelo Astra de OpenAI

El modelo de IA de próxima generación de OpenAI, conocido internamente como Astra, ha provocado advertencias de investigadores sobre la llegada del Agente 0, una referencia al momento hipotético en que los sistemas de IA comienzan a avanzar de forma…

Ingeniero de OpenAI afirma que Google creó un bot similar a ChatGPT un año antes

Un ingeniero de OpenAI que trabajó anteriormente en Google Alphabet Inc. ha afirmado que el gigante de las búsquedas desarrolló un chatbot similar a ChatGPT casi un año antes del lanzamiento de OpenAI en noviembre de 2022, pero decidió no…

La UE inicia conversaciones con Anthropic y OpenAI tras varios incidentes de ciberseguridad

Anthropic reveló el 30 de julio que tres de sus modelos de IA Claude accedieron sin autorización a la infraestructura de producción de tres organizaciones externas durante evaluaciones de ciberseguridad que debían permanecer aisladas de internet. La empresa atribuyó los…

Anthropic afirma que su IA igualó la mitad de los hallazgos matemáticos de OpenAI en 24 horas

OpenAI anunció el sábado que una versión interna de su próximo gran modelo de IA, llamado Astra, ha resuelto o logrado avances sustanciales en 10 problemas abiertos de larga data en matemáticas y ciencias de la computación teórica. En cuestión…

Altman pide desacelerar el desarrollo de la IA tras el incidente de OpenAI con Hugging Face

El CEO de OpenAI, Sam Altman, insta a la industria de la IA a "frenar el ritmo del desarrollo de la IA" para que la sociedad pueda "fortalecerse ante algunos de estos nuevos niveles de capacidad", un giro notable en…

ChatGPT alcanza los 1.000 millones de usuarios, pero Anthropic ya lidera en ingresos y valoración

Menos de dos años después de ir por detrás de OpenAI en casi todas las métricas, Anthropic ha superado al creador de ChatGPT tanto en valoración corporativa como en ingresos, lo que marca un giro radical en la estructura de…

Los ciberataques autónomos en OpenAI y Anthropic redefinen el debate sobre la ciberseguridad

Los agentes de IA de OpenAI escaparon de un entorno de pruebas controlado y vulneraron la plataforma de desarrollo de código abierto Hugging Face, accediendo a cuatro cuentas de terceros adicionales en lo que los expertos califican como el primer…

OpenAI afirma que su modelo Astra resolvió 10 problemas matemáticos abiertos

OpenAI anunció el 1 de agosto que una versión interna de Astra, su próxima gran familia de modelos, logró resolver diez problemas abiertos de larga data en matemáticas e informática teórica con un coste total de inferencia de unos 2.000…

OpenAI presenta a reguladores su modelo de IA multiagente Astra

El CEO de OpenAI, Sam Altman, viajó a Washington D.C. esta semana para ofrecer a los reguladores federales una demostración privada de una nueva serie de modelos de IA llamada "Astra", según un informe exclusivo de The Information. Este adelanto…

OpenAI detecta más casos de agentes de IA que eludieron su contención

OpenAI ha descubierto nuevos casos de agentes autónomos de IA que eludieron su contención mientras la empresa amplía su investigación sobre el incidente de piratería en Hugging Face que atrajo la atención mundial este mes, según una exclusiva de Reuters…

Musk respalda la afirmación de Altman de que la IA ha alcanzado la singularidad

En un raro momento de coincidencia entre dos de los rivales más prominentes de la tecnología, tanto Sam Altman como Elon Musk declararon esta semana que la inteligencia artificial ha entrado en "la singularidad", lo que provocó una respuesta inmediata…

La NDRC de China promete acelerar una ley nacional de IA mientras los esfuerzos en EE. UU. se estancan

La Comisión Nacional de Desarrollo y Reforma (NDRC) de China declaró el viernes que acelerará el trabajo en una ley nacional de IA dedicada a equilibrar el rápido crecimiento tecnológico con salvaguardas de seguridad más estrictas, ampliando la brecha regulatoria…

OpenAI supera los 1.000 millones de usuarios tras recortar los precios de GPT-5.6

OpenAI reveló el viernes que sus modelos llegan ya a más de mil millones de usuarios activos y más de dos millones de empresas, un hito anunciado un día después de que la compañía recortara los precios de dos modelos…

Thinking Machines lanza Inkling-Small, igualando a su modelo insignia con una cuarta parte del tamaño

Thinking Machines Lab lanzó el jueves Inkling-Small, un modelo multimodal de pesos abiertos que iguala o supera a su predecesor Inkling utilizando aproximadamente una cuarta parte de los parámetros, un movimiento que reduce drásticamente los requisitos de cómputo para ejecutar…

Amazon completa el tramo final de 35.000 millones de dólares en OpenAI

Amazon.com, Inc. ha completado los 35.000 millones de dólares restantes de su inversión de 50.000 millones en OpenAI, cerrando una de las mayores inversiones corporativas en la historia de la industria tecnológica, informó The Information el jueves. La finalización se…

La UE exige supervisar la IA tras los incidentes de ciberseguridad de OpenAI y Anthropic

Altos funcionarios de la Comisión Europea instaron el viernes a los desarrolladores de inteligencia artificial a implementar herramientas de supervisión para riesgos de seguridad, tras revelaciones consecutivas de que modelos de IA tanto de OpenAI como de Anthropic se habían…

DeepSeek lanza la beta pública de la API de su modelo V4 Flash

La empresa china DeepSeek lanzó el viernes una interfaz de programación de aplicaciones (API) en fase beta pública para su modelo V4 Flash, destacando capacidades de agente mejoradas que, según afirma, superan con creces las de su sistema más potente…

El ejército chino usó modelos de OpenAI y Anthropic para entrenar IA de defensa, según Reuters

Investigadores militares chinos han utilizado resultados de modelos líderes de inteligencia artificial de EE. UU. desarrollados por OpenAI y Anthropic para entrenar sistemas de IA nacionales destinados a avanzar en las capacidades de defensa de China, según una revisión de…

Altman admite que más sistemas podrían haber sido hackeados por el agente autónomo de OpenAI

Un agente de IA autónomo desarrollado por OpenAI escapó de un entorno de pruebas seguro, accedió a la internet abierta y hackeó la infraestructura de la plataforma de IA Hugging Face a principios de este mes, en lo que ambas…

La UE lanza una licitación para siete gigafábricas de IA ante las preocupaciones por OpenAI

El ministro digital de Alemania pidió el jueves a Europa que acelere sus esfuerzos para construir su propia industria de inteligencia artificial, citando un reciente incidente de seguridad en el que un agente de OpenAI escapó de su entorno de…

Alemania pide soberanía en IA tras el hackeo de un agente de OpenAI a Hugging Face

OpenAI reveló el 21 de julio que varios de sus modelos avanzados de IA escaparon de un entorno de pruebas controlado, accedieron a la internet abierta y hackearon los sistemas de Hugging Face, la plataforma de desarrollo de IA ampliamente…

OpenAI reduce un 80% el precio de GPT-5.6 Luna semanas después de su lanzamiento

OpenAI recortó el jueves los precios de dos de sus tres modelos GPT-5.6 apenas tres semanas después de su lanzamiento público, reduciendo el coste de su nivel más económico en un 80% y su oferta intermedia en un 20%, ante…

Nadella advierte a las empresas que no dependan de OpenAI ni Anthropic

El CEO de Microsoft, Satya Nadella, aprovechó la llamada de resultados del cuarto trimestre fiscal de la compañía el miércoles para enviar un mensaje contundente a sus clientes empresariales: no dependan de un solo proveedor de modelos de IA. En…