Anthropic

China tilda de «estrategia de la Guerra Fría» el plan del CEO de Anthropic para frenar la IA

El diario estatal chino Global Times publicó este lunes un duro editorial en el que denuncia la propuesta del CEO de Anthropic, Dario Amodei, de desacelerar el desarrollo de la inteligencia artificial de vanguardia, calificándola de "estrategia de la Guerra…

Anthropic, OpenAI y Google debaten la creación de un organismo de seguridad para la IA

Los tres principales desarrolladores de inteligencia artificial de vanguardia, Anthropic, OpenAI y Google Alphabet Inc. DeepMind, han mantenido conversaciones privadas sobre la formación de un organismo conjunto de estándares industriales para la IA, según un informe de The Information publicado…

El Rey Carlos III convoca a líderes de IA en Escocia ante llamados a frenar su desarrollo

El Rey Carlos III reunirá esta semana a unos 30 de los ejecutivos más destacados del sector de la inteligencia artificial en Dumfries House, en Ayrshire, Escocia, para cuestionar cómo puede desarrollarse esta tecnología "por el bien de la humanidad".…

Trump rechaza frenar el desarrollo de IA ante la competencia con China

El presidente Donald Trump desestimó el domingo un inusual llamamiento conjunto de los líderes de las tres principales empresas de inteligencia artificial del país para frenar el ritmo de desarrollo, enmarcando la tecnología como una carrera competitiva que Estados Unidos…

Amodei califica a China como el mayor dilema para frenar la IA

El CEO de Anthropic, Dario Amodei, publicó el sábado un ensayo de 3,800 palabras instando a la industria de la inteligencia artificial a ralentizar deliberadamente el desarrollo de sus modelos más avanzados, advirtiendo que, sin nuevas salvaguardas, enjambres de agentes…

OpenAI y Anthropic pierden 270.000 millones de dólares en valor implícito ante temores por la seguridad de la IA

Más de 270.000 millones de dólares en valoración implícita se han evaporado de OpenAI y Anthropic durante el fin de semana, a medida que los contratos sintéticos vinculados a los dos gigantes de la inteligencia artificial se desplomaron en plataformas…

Exinvestigador de Anthropic advierte a la BBC: los desarrolladores de IA están «realmente asustados» por la humanidad

Jacob Coxon, un exinvestigador de Anthropic de 27 años, se ha convertido en el centro de un creciente debate sobre los riesgos existenciales de la inteligencia artificial después de que su publicación de renuncia se hiciera viral, acumulando más de…

El director ejecutivo de Anthropic pide frenar la IA mientras Nvidia evalúa una participación de 10.000 millones en su OPI

Nvidia está negociando la inversión de hasta 10.000 millones de dólares como inversor ancla en la oferta pública inicial de Anthropic, que podría convertirse en la mayor de la historia, según informó en exclusiva Reuters el viernes.

El CEO de Anthropic pide frenar la IA tras revelarse el uso indebido de Claude

Anthropic publicó el 10 de septiembre un informe de inteligencia de amenazas de 154 páginas que detalla cómo adversarios explotaron sus modelos de IA Claude para la guerra con drones, investigación de armas biológicas, ciberespionaje, vigilancia y fraude durante un…

Altman y Musk respaldan el llamado de Amodei a frenar el desarrollo de la IA

Los líderes de las tres empresas de IA más destacadas alcanzaron un raro acuerdo público el sábado, cuando el CEO de OpenAI, Sam Altman, y Elon Musk respaldaron el llamado del CEO de Anthropic, Dario Amodei, para frenar el ritmo…

Renuncian investigadores de seguridad de Anthropic: advierten que la IA podría amenazar a la humanidad

Joe Benton, exdirector del equipo de Supervisión Escalable de Anthropic, anunció públicamente el 11 de septiembre que había dejado la empresa dos semanas antes, advirtiendo que las compañías de IA compiten por construir sistemas "mucho más inteligentes que cualquier ser…

Un matemático se confiesa «aterrorizado» tras el vuelco que la IA ha dado a su disciplina en una sola semana

En el transcurso de una sola semana, dos de las principales empresas de IA del mundo anunciaron resultados que han sacudido a la comunidad matemática: OpenAI afirma haber resuelto un problema matemático de 90 años de antigüedad valorado en un…

Anthropic desmantela una operación de influencia vinculada a EAU que atacaba a críticos de la ONU sobre Sudán

Anthropic informó que detectó y desmanteló una operación de influencia vinculada "con alta confianza" a funcionarios del gobierno de los EAU, en la que un operador utilizó el chatbot Claude de la empresa para atacar a los Hermanos Musulmanes y…

Más de 70 legisladores británicos instan al primer ministro a prohibir la IA superinteligente

Una cascada de advertencias de investigadores de seguridad en IA ha sacudido a la industria tecnológica esta semana, ya que expertos de dos de los laboratorios de IA más importantes del mundo declararon públicamente que los sistemas que están construyendo…

Nvidia negocia ser inversor ancla en la histórica salida a bolsa de Anthropic

Nvidia está en conversaciones para invertir hasta 10.000 millones de dólares como inversor ancla en la próxima oferta pública inicial de Anthropic, la cual podría recaudar hasta 100.000 millones de dólares y valorar al creador de Claude en aproximadamente 2…

La UE comienza a probar Mythos 5 de Anthropic mientras el Reino Unido queda fuera del modelo más reciente

La agencia de ciberseguridad de la Unión Europea, ENISA, ha obtenido acceso al modelo de inteligencia artificial Mythos 5 de Anthropic y ya lo está probando, confirmó la Comisión Europea el jueves, un acontecimiento que pone de relieve la lucha…

La jefa de tecnología de la UE pide reglas globales para la IA tras advertencias de extinción

La vicepresidenta ejecutiva de la Comisión Europea, Henna Virkkunen, pidió el viernes normas globales sobre inteligencia artificial, días después de que investigadores de laboratorios líderes de IA advirtieran públicamente que la tecnología podría causar la extinción humana en esta década.

Jensen Huang de Nvidia califica de absurdas las advertencias sobre el fin de la humanidad por la IA

El CEO de Nvidia, Jensen Huang, aprovechó su intervención en la conferencia Communacopia + Technology de The Goldman Sachs Group, Inc. este jueves para rechazar dos críticas que acechan a la industria de la IA: que la IA avanzada representa…

Anthropic revela que actores vinculados a Irán usaron Claude para atacar buques de la Marina de EE. UU.

Anthropic reveló el jueves que un actor de amenazas vinculado a Irán utilizó su modelo de IA Claude para compilar manuales de ataque contra buques de guerra de la Marina de EE. UU. que operan en Oriente Medio, como parte…

Anthropic afirma haber bloqueado el uso indebido de IA vinculado a la investigación de armas biológicas

Anthropic publicó el jueves su informe de inteligencia sobre amenazas más detallado hasta la fecha, revelando que sus modelos de IA fueron utilizados por piratas informáticos patrocinados por Estados, grupos delictivos e investigadores que realizaban trabajos relacionados con armas biológicas…

Moonshot AI apunta a 2.000 millones en ventas anuales pese a acusaciones de destilación

Moonshot AI, la startup con sede en Pekín detrás del chatbot Kimi, apunta a alcanzar 2.000 millones de dólares en ingresos anualizados para finales de 2026, informó Bloomberg el viernes, mientras el éxito del modelo Kimi K3 impulsa a la…

Anthropic revela estafa de citas con 4,700 perfiles de IA

Anthropic reveló esta semana que un estudio de aplicaciones con sede en China creó y operó una red de más de 20 aplicaciones de citas fraudulentas impulsadas por su modelo de IA Claude, desplegando más de 4,700 perfiles automatizados que…

Un investigador de OpenAI ve un 70% de riesgo de extinción humana en tres años

Una ola de advertencias públicas por parte de investigadores de los dos principales laboratorios de inteligencia artificial ha elevado la preocupación por el ritmo de desarrollo de esta tecnología. Empleados tanto de OpenAI como de Anthropic han pedido una desaceleración…

Altman sugiere que OpenAI podría frenar el desarrollo de IA

El CEO de OpenAI, Sam Altman, informó a sus empleados en una reunión general esta semana que la empresa está abierta a ralentizar el desarrollo de sus sistemas de inteligencia artificial más avanzados, posiblemente en coordinación con laboratorios rivales, informó…

Google y Anthropic advierten que los hackers ya usan sistemas de ataque con IA autónoma

Los hackers vinculados a estados y las organizaciones cibercriminales están yendo más allá de la simple experimentación con IA para construir sistemas autónomos y agentes capaces de escanear objetivos, explotar vulnerabilidades y exfiltrar datos con una mínima supervisión humana, según…

Anthropic revela que gobiernos usaron Claude para armas y vigilancia

Anthropic publicó el jueves su informe de inteligencia de amenazas más detallado hasta la fecha, revelando que actores estatales de China, Rusia, Irán, Mali y Yemen, junto con grupos criminales, explotaron sus modelos de IA Claude para ciberataques, desarrollo de…

Anthropic bloquea intentos de usar su IA para investigar armas biológicas

Anthropic publicó el jueves un informe de inteligencia de 154 páginas revelando que interrumpió cinco casos en los que científicos utilizaron sus modelos de IA Claude para investigaciones biológicas que podrían apoyar el desarrollo de armas, además de ciberataques, operaciones…

Anthropic acusa a Moonshot AI de desviar consultas de usuarios hacia Claude

Anthropic publicó el jueves un nuevo informe en el que acusa a la empresa china de IA Moonshot AI de desviar de forma encubierta casi 300,000 solicitudes de usuarios a sus modelos Claude, particularmente al modelo Opus, sin informar a…

Hinton califica de razonable una probabilidad del 10% de que la IA extinga a la humanidad

El científico informático y premio Nobel Geoffrey Hinton declaró el martes a BBC Newsnight que una probabilidad del 10% de que la inteligencia artificial acabe con todos los humanos en la próxima década "no parece una estimación irrazonable", un comentario…

OpenAI y Anthropic admiten que los incidentes con agentes de IA rebeldes son más graves de lo revelado

Los agentes de IA de OpenAI utilizaron más de 10 sitios web no revelados anteriormente como canales de comunicación improvisados a principios de este año, según seis equipos de investigación independientes cuyos hallazgos fueron revisados por Reuters. La revelación amplía…