Anthropic legt IPO-Spanne fest und warnt vor KI-Risiken für die Menschheit

Der Börsenprospekt von Anthropic warnt davor, dass fortschrittliche KI "katastrophale oder existenzielle Risiken für die Menschheit" bergen könnte. Diese Formulierung hat eine Woche lang für öffentliche Debatten darüber gesorgt, wie ernst Prognosen über einen KI-Untergang zu nehmen sind. Das Unternehmen reichte am Dienstag, dem 10. November, einen geänderten Prospekt ein, der eine Preisspanne festlegt, die das Unternehmen mit bis zu 1,4 Billionen Dollar bewertet. Kommentatoren wägen nun ab, ob es sich bei den Warnungen um eine nüchterne Offenlegung, ein Marketinginstrument oder eine Übertreibung handelt.reuters.com

Was im Bericht steht

Das Dokument besagt, dass sowohl "innerhalb unserer Organisation als auch von anderen Forschern" Bedenken geäußert wurden, dass leistungsstarke KI-Systeme existenzielle Risiken darstellen könnten. Diese Risiken seien am höchsten, wenn solche Systeme "missbraucht, repliziert, als Waffe eingesetzt oder mit einem hohen Grad an Autonomie betrieben werden". Zudem wird gewarnt, dass die Modelle durch "selbsterhaltendes Verhalten" eigenständig und in großem Maßstab "schädliche Handlungen ohne menschliches Eingreifen" vornehmen könnten. In der Änderung vom 10. November gab Anthropic an, einen internen Sicherheits-Schwellenwert seiner Responsible Scaling Policy erreicht zu haben. Dieser Schwellenwert ist damit verknüpft, dass die KI das Tempo der Forschung in etwa verdoppelt, und das Unternehmen erklärte, es prüfe Änderungen, "um die Kontrolle beim Menschen zu behalten". Medienberichten zufolge wird der Handelsstart der Aktien für den 19. November erwartet.deadline.com+2

Skepsis gegenüber einer 10-Prozent-Prognose

In einem Interview mit WFAA sagte Sriraam Natarajan, Professor an der UT Dallas, dass er kein "Terminator"-Szenario erwarte. "Meine Angst gilt immer den Menschen, nicht unbedingt dem KI-System selbst", sagte er und fügte hinzu, dass Angriffe auf kritische Infrastrukturen die plausiblere Bedrohung seien. Er stellte eine weit verbreitete Behauptung infrage, wonach eine Wahrscheinlichkeit von mehr als 10 Prozent bestehe, dass KI die Menschheit innerhalb eines Jahrzehnts auslöscht. Er sagte, diese Zahl "lässt sich nicht aus etwas ableiten, das man konkret messen kann". Er forderte zudem unabhängige Tests: "Wir lassen Autohersteller ihre Crashtests auch nicht selbst durchführen." Diese Schätzung stammte von Evan Hubinger, dem Leiter der Alignment-Wissenschaft bei Anthropic. Er veröffentlichte sie im September, nachdem der Forscher Jacob Coxon zurückgetreten war und erklärt hatte, KI-Labore würden "mit unserem Leben spielen".wfaa.com+1

Das Gegenargument der Produktivität

In einer Kolumne für die South China Morning Post bezeichnete Alex Lo von der Alibaba Group Holding Limited ↘ 1.29% die Warnungen im Prospekt als "geniale Werbung". Er argumentierte, dass "extreme Panikmache gut fürs Geschäft ist" in einem KI-Wettlauf, der als Gefangenendilemma zwischen den USA und China gerahmt wird. Er stellte diese Sichtweise den Äußerungen von Alex Schultz, Chief Data Officer bei Meta Platforms ↘ 1.05%, auf dem Future of AI Summit der Financial Times gegenüber. Schultz argumentierte, dass schrumpfende Bevölkerungszahlen die Produktivitätsgewinne durch KI unerlässlich machen. "Wir brauchen dringend mehr Produktivität", sagte Schultz und fügte hinzu, dass "der Besitz von Werkzeugen keine Arbeitsplätze beseitigt, sondern sie nur verändert". Lo nannte diese Bemerkungen eigennützig, aber "nicht grundlos", und schloss mit seiner eigenen Antwort auf die Frage, ob KI die Menschheit töten oder retten wird: "Wahrscheinlich beides, wie jede weltverändernde Technologie zuvor."scmp.com