superintelligence

Nadella: la superintelligence sans contrôle humain ne vaut pas la peine

Le président et PDG de Microsoft, Satya Nadella, a déclaré dimanche que toute poursuite d'une superintelligence qui « ne sert pas l'humanité et n'est pas sous contrôle humain » ne « vaut pas la peine d'être poursuivie », rejoignant ainsi…

Sanders appelle à une pause de l’IA et à l’interdiction de la superintelligence

Le sénateur américain Bernie Sanders a appelé samedi le président Donald Trump et le président chinois Xi Jinping à négocier un traité visant à suspendre le développement de l'intelligence artificielle avancée et à interdire la superintelligence artificielle, soutenant que les…

Un nouveau membre du conseil d’OpenAI met en garde contre une perte de contrôle irréversible

Au lendemain de son entrée au conseil d'administration de l'organisation à but non lucratif OpenAI, le chercheur en sécurité de l'IA Paul Christiano a lancé un avertissement sévère: l'accélération rapide des capacités de l'intelligence artificielle présente un "risque significatif" de…

Un responsable de l’alignement chez Anthropic estime à plus de 10% le risque que l’IA tue toute l’humanité

Evan Hubinger, qui dirige la science de l'alignement chez Anthropic, a posté sur X mardi qu'il croit personnellement qu'il y a plus de 10% de chances que l'IA "puisse tuer tous les humains" au cours de la prochaine décennie, une…