Superintelligenz

Nadella: Superintelligenz ohne menschliche Kontrolle ist nicht erstrebenswert

Der Vorstandsvorsitzende und CEO von Microsoft, Satya Nadella, erklärte am Sonntag, dass das Streben nach einer Superintelligenz, die "nicht der Menschheit hilft und unter menschlicher Kontrolle steht", "nicht erstrebenswert" sei. Er schließt sich damit einer wachsenden Zahl von Führungskräften aus…

Sanders fordert KI Pause und Verbot von Superintelligenz

Der US-Senator Bernie Sanders forderte am Samstag US-Präsident Donald Trump und den chinesischen Präsidenten Xi Jinping auf, einen Vertrag über eine Pause bei der Entwicklung fortgeschrittener künstlicher Intelligenz und ein Verbot künstlicher Superintelligenz auszuhandeln. Die jüngsten Aufrufe führender KI-Manager zur…

Neues OpenAI-Vorstandsmitglied warnt vor unumkehrbarem Kontrollverlust

Einen Tag nach seinem Eintritt in das gemeinnützige Board von OpenAI gab der KI-Sicherheitsforscher Paul Christiano eine deutliche Warnung ab: Die schnelle Beschleunigung der Fähigkeiten künstlicher Intelligenz berge ein "erhebliches Risiko" eines "katastrophalen und unumkehrbaren Kontrollverlusts in sehr naher Zukunft."

Anthropic-Experte warnt: Über 10 Prozent Risiko für Auslöschung der Menschheit durch KI

Evan Hubinger, Leiter der Alignment-Forschung bei Anthropic, schrieb am Dienstag auf X, er persönlich halte es für möglich, dass KI innerhalb des nächsten Jahrzehnts eine Wahrscheinlichkeit von über 10 Prozent habe, "alle Menschen zu töten". Diese Aussage sorgte für über…