Anthropic stoppt KI-Kampagne mit Verbindungen zu den VAE

Anthropic teilte mit, dass das Unternehmen eine Einflussoperation aufgedeckt und unterbunden habe, die es mit "hoher Sicherheit" mit Regierungsvertretern der Vereinigten Arabischen Emirate (VAE) in Verbindung bringt. Dabei nutzte ein einzelner Akteur den Claude-Chatbot des Unternehmens, um gegen die Muslimbruderschaft und UN-Experten vorzugehen, die Abu Dhabis mutmaßliche Rolle im Sudan-Krieg kritisierten.al-monitor+1

Die Offenlegung, die Teil eines 154-seitigen Berichts über Bedrohungsanalysen vom 10. September ist, stellt eine der aufwendigsten staatlich gelenkten Einflussoperationen dar, die jemals über ein kommerzielles KI-System durchgeführt wurden.afp+1

Die Operation "Deadshot"

Die Kampagne konzentrierte sich auf eine KI-Persona namens "Deadshot", die einer Doktrin folgte, welche zu einer "koordinierten transatlantischen und regionalen Operation zur Zerschlagung der Muslimbruderschaft weltweit" aufrief. Der Akteur nutzte Claude, um Berichte, Propagandamaterial, Inhalte für soziale Medien und Zeugenaussagen zum Sudan zu generieren, und betrieb etwa 300 gefälschte Social-Media-Konten, um die Botschaften zu verbreiten.tag24+3

Zu den bemerkenswertesten Elementen gehörte, dass die Operation die Identität einer echten Schweizer Menschenrechtsorganisation stahl, um staatlich verfasste Berichte unter deren Namen zu veröffentlichen. Zudem verfassten die Akteure offizielle Zeugenaussagen für die 62. Sitzung des UN-Menschenrechtsrats, wobei sie darauf achteten, dass die VAE in den Reden nicht erwähnt wurden. Anthropic erklärte, das Ziel sei gewesen, sicherzustellen, dass "Material, das einer Konfliktpartei im Sudan dient, die UN als von unabhängigen lokalen Zeugen stammend erreicht, anstatt als staatliche Botschaft".france24+5

Die Kampagne erstellte zudem "Gegen-Rechenschafts-Dossiers" über UN-Sonderberichterstatter, die das Vorgehen der VAE im Sudan kritisiert hatten, und legte detaillierte persönliche Akten über 18 EU-Abgeordnete und Journalisten an.middleeasteye+1

Sudans eskalierende Krise

Seit April 2023 ist der Sudan in einen Krieg zwischen der Armee und den paramilitärischen Rapid Support Forces (RSF) verwickelt, was zu einer der weltweit schlimmsten humanitären Krisen geführt hat. Mehr als 200.000 Menschen wurden getötet, Millionen sind auf der Flucht.citizen+1

Die VAE haben Vorwürfe der Unterstützung der RSF wiederholt zurückgewiesen, obwohl die unabhängige UN-Faktenermittlungsmission letzte Woche erklärte, dass private Akteure aus Ländern wie den VAE Transitstandorte im Tschad, in Libyen und Somalia genutzt hätten, um Waffenlieferungen und Logistik für die RSF zu erleichtern.france24+1

Offene Fragen

Anthropic gab an, alle mit der Kampagne verknüpften Konten gesperrt, Sicherheitsvorkehrungen verschärft und Erkenntnisse mit Partnern geteilt zu haben. Das Unternehmen konnte jedoch nicht bestätigen, ob die Zeugenaussagen oder Dossiers ihre beabsichtigten Empfänger erreichten oder politische Entscheidungen beeinflussten. Die VAE hatten bis Freitag nicht auf eine Anfrage der Nachrichtenagentur AFP reagiert.middleeasteye+3