Nach KI-Katastrophe: Tech-Konzerne wappnen sich für politischen Aufstand

Führungskräfte von Anthropic, OpenAI und anderen Unternehmen im Bereich der künstlichen Intelligenz spielen hinter verschlossenen Türen Szenarien für einen gesellschaftlichen und politischen Aufstand durch, der auf ein katastrophales KI-Ereignis folgen könnte. Dies berichtete Axios am Freitag. Viele Brancheninsider erklärten gegenüber dem Medium, dass sie mit einem solchen Ereignis innerhalb der nächsten sechs bis zwölf Monate rechnen.axios

Den Planern zufolge ist der wahrscheinlichste Auslöser ein großflächiger Cyberangriff, der den Zugang zu Finanzdienstleistungen, dem Internet oder sogar der Strom- und Wasserversorgung kappt, so Axios. Der erste Fall eines schweren realen Schadens durch unsichere KI würde eine ohnehin skeptische Öffentlichkeit vermutlich noch weiter gegen die Technologie und ihre führenden Köpfe aufbringen, darunter Anthropic-CEO Dario Amodei und OpenAI-CEO Sam Altman. Dies könnte auch Präsident Trump schaden, der sich bisher zögerlich zeigte, die Branche zu regulieren.axios

Den Kongress auf die Folgen vorbereiten

Axios berichtete, dass diese Arbeit zwar das Durchspielen von Worst-Case-Szenarien (sogenanntes Red-Teaming) umfasst, der Schwerpunkt jedoch auf der Aufklärung von Kongressmitgliedern liegt. Den Managern ist bewusst, dass Regulierungen derzeit keine Chance auf eine Verabschiedung haben. Dennoch wollen sie die Gesetze und Richtlinien mitgestalten, auf die US-Politiker nach einem ersten katastrophalen Ereignis zurückgreifen würden.axios

Ein Sprecher von OpenAI erklärte gegenüber Axios, das Unternehmen führe „Vorbereitungsübungen durch, bei denen Teams eine Reihe potenzieller Szenarien diskutieren und durchspielen“. Der Sprecher fügte hinzu: „Diese Szenarien werden nicht als unvermeidlich behandelt, sondern sollen uns helfen, uns auf eine Vielzahl von Umständen vorzubereiten.“ Anthropic lehnte eine Stellungnahme ab.axios

Die Branchenplaner gehen davon aus, dass die Demokraten, die nach den Zwischenwahlen an Boden gewonnen haben, schnell handeln werden, um KI einzuschränken, dabei jedoch auf Hindernisse stoßen werden. Zu diesen Hindernissen gehören ein alternder Kongress, der mit der Technologie überfordert sein könnte, und eine Wirtschaft, die eng mit dem Aufbau der KI-Infrastruktur verflochten ist. Zu den aggressiveren Vorschlägen der Demokraten gehören das Verbot von Superintelligenz oder ein Moratorium für die Entwicklung fortschrittlicher KI. Ein vorgeschriebener Notausschalter für hochentwickelte KI findet überparteiliche Unterstützung und stößt auch in der Branche auf eine gewisse Akzeptanz, obwohl Experten bezweifeln, ob sich tatsächlich alle KI-Systeme einfach abschalten ließen.axios

Warnsignale bereits sichtbar

Axios verwies auf eine jüngste Kampagne gegen südkoreanische Finanzinstitute, darunter gemeldete Sicherheitsverletzungen bei zwei Banken. Ein Hacker aus China soll KI-Tools genutzt haben, darunter das in China entwickelte Modell DeepSeek, um Daten von Zehntausenden Bankkunden zu stehlen. Laut dem Cybersicherheitsunternehmen CrowdStrike ↗ 3.43% bat der Angreifer zudem das Tool Claude Code von Anthropic um Hilfe bei der Suche nach Plattformen für den Verkauf der gestohlenen Daten.axios

Cybersicherheitsexperten warnen zudem, dass bereits zu viele Open-Weight-Modelle frei heruntergeladen und für schädliche Zwecke missbraucht werden können. Die meisten von ihnen glauben, dass die einzige Antwort darin besteht, KI zur Bekämpfung von missbräuchlich eingesetzter KI einzusetzen.axios

Der Bericht erregte schnell die Aufmerksamkeit von Kommentatoren. Liz Wolfe von Reason hob ihn in ihrem täglichen Rückblick hervor. Trotz der Erwartung einer tief gespaltenen Politik geht die Branche davon aus, dass Washington in einem echten Notfall zusammenrücken könnte. Ein demokratischer Mitarbeiter erklärte gegenüber Axios, dass die Gesetzgeber auch während der COVID-Pandemie und der Finanzkrise von 2008 kooperiert hätten.reason+1