Hinton hält 10-prozentige Chance für KI-bedingte Auslöschung der Menschheit für plausibel

Der Nobelpreisträger und Informatiker Geoffrey Hinton erklärte am Dienstag gegenüber BBC Newsnight, dass eine 10-prozentige Wahrscheinlichkeit, dass künstliche Intelligenz innerhalb des nächsten Jahrzehnts alle Menschen tötet, "keine unvernünftige Schätzung zu sein scheint" – eine Bemerkung, die die Moderatorin Victoria Derbyshire live sichtlich schockierte.ndtvprofit+1

"Wir haben noch nie Wesen erschaffen, die bald intelligenter sein könnten als wir. Wir wissen nicht, was passieren wird", sagte Hinton, als er von Derbyshire gefragt wurde, ob die Zahl glaubwürdig sei. "Eine 10-prozentige Chance scheint mir keine unvernünftige Schätzung zu sein. Aber niemand weiß wirklich, wie man eine vernünftige Schätzung abgibt." Als Derbyshire seine Worte wiederholte, antwortete Hinton mit einem einzigen Wort: "Ja." Ihre Reaktion – "Wow… oh my God" – verbreitete sich schnell im Internet.ndtv+1

Wie KI Verwüstung anrichten könnte

Hinton, der 2024 den Nobelpreis für Physik für seine Arbeit im Bereich maschinelles Lernen erhielt, sagte, dass eine fortgeschrittene KI keine physische Kontrolle über die Welt benötigen würde, um eine existenzielle Bedrohung darzustellen. "Sie könnte komplettes Chaos verursachen, nur indem sie mit Menschen spricht", sagte er. "Aber sie wäre auch in der Lage, sehr bösartige Viren zu entwerfen – biologische Viren – sowie Computerviren. Sie könnte verheerende Cyberangriffe durchführen." Er fügte hinzu, es wäre "sehr töricht" anzunehmen, das Risiko sei so niedrig wie 1 Prozent.ndtvprofit+1

Stuart Russell, Professor an der UC Berkeley, schloss sich diesen Bedenken an und erklärte gegenüber Business Insider, dass KI oder KI-gestützte Akteure kritische Infrastrukturen wie Strom-, Wasser-, Transport- und Finanzsysteme angreifen könnten.businessinsider

Die Rücktritte bei Anthropic lösten die Debatte aus

Hintons Interview folgte auf eine Kette von Ereignissen, die am 8. September begann, als Jacob Coxon, ein ehemaliger Pretraining-Forscher bei OpenAI und Anthropic, öffentlich zurücktrat. "Keines der Unternehmen handelt verantwortungsbewusst", schrieb Coxon auf X. "Sie rasen direkt auf eine sich selbst verbessernde Superintelligenz zu und spielen mit unserem Leben."ibtimes+1

Evan Hubinger, Leiter der Alignment-Forschung bei Anthropic, antwortete daraufhin öffentlich, dass Coxon "recht" habe und dass er persönlich glaube, dass die Chance, dass KI innerhalb des Jahrzehnts alle Menschen tötet, bei über 10 Prozent liege. "Wir haben noch keinen Plan, um das Alignment für Superintelligenz zu lösen, und sind nicht eindeutig auf dem richtigen Weg", schrieb Hubinger.businessinsider+1

Eine tiefe Spaltung unter Experten

Nicht alle Forscher teilen die Alarmstimmung. Gary Marcus, ein KI-Forscher, sagte gegenüber Business Insider, er sehe Cyberangriffe, biologische Waffen und Desinformation als ernsthafte Risiken, betrachte die Auslöschung jedoch nicht als ein realistisches kurzfristiges Ergebnis. "Es gibt einige sehr ernsthafte Schäden, über die man sich Sorgen machen muss, aber kein realistisches Szenario, das mir bekannt ist, um tatsächlich 'alle Menschen zu töten'", sagte er. Yann LeCun von Meta ↘ 0.54% hat solche Wahrscheinlichkeitsschätzungen zuvor als Bauchgefühl abgetan – eine Charakterisierung, die Hinton selbst teilweise akzeptiert hat, indem er gegenüber CNN sagte: "Jeder, der solche Wahrscheinlichkeiten schätzt, rät eigentlich nur wild drauf los".businessinsider+1

Der ITV-Moderator Robert Peston meldete sich ebenfalls zu Wort und schrieb auf X: "Ich bin etwas erstaunt, dass dies nicht mehr Aufmerksamkeit erregt hat, auch nicht innerhalb der Regierung."ladbible