superinteligencia

Nadella: la superinteligencia sin control humano no merece la pena

El presidente y CEO de Microsoft, Satya Nadella, declaró el domingo que cualquier búsqueda de superinteligencia que "no ayude a la humanidad y esté bajo control humano" es "algo que no merece la pena perseguir", uniéndose a un creciente grupo…

Sanders pide pausar la IA y prohibir la superinteligencia

El senador estadounidense Bernie Sanders pidió este sábado al presidente Donald Trump y al presidente chino Xi Jinping que negocien un tratado para pausar el desarrollo de la inteligencia artificial avanzada y prohibir la superinteligencia artificial, al argumentar que los…

Nuevo miembro de la junta de OpenAI advierte sobre una pérdida de control irreversible

Un día después de unirse a la junta sin fines de lucro de OpenAI, el investigador de seguridad en IA Paul Christiano lanzó una advertencia contundente: la rápida aceleración de las capacidades de la inteligencia artificial plantea un "riesgo significativo"…

Líder de alineación de Anthropic advierte que la IA tiene más de un 10% de probabilidad de extinguir a la humanidad

Evan Hubinger, quien dirige la ciencia de alineación en Anthropic, publicó en X el martes que cree personalmente que existe una probabilidad superior al 10% de que la IA "pueda matar a todos los humanos" en la próxima década, una…