Anthropic stoppade AI-påverkansoperation kopplad till Förenade Arabemiraten

Anthropic uppger att de har upptäckt och stoppat en påverkansoperation som de med "hög grad av säkerhet" kopplar till myndighetspersoner i Förenade Arabemiraten, där en enskild operatör använt företagets Claude-chatbot för att rikta in sig på Muslimska brödraskapet och FN-experter som är kritiska till Abu Dhabis påstådda roll i Sudankriget.al-monitor+1

Avslöjandet, som är en del av en 154-sidig hotbildsrapport publicerad den 10 september, utgör en av de mest avancerade statskopplade påverkansoperationerna som någonsin genomförts via ett kommersiellt AI-system.afp+1

Operation "Deadshot"

Kampanjen kretsade kring en AI-persona känd som "Deadshot", styrd av en doktrin som förespråkade "en koordinerad transatlantisk och regional operation för att montera ned Muslimska brödraskapet globalt". Operatören använde Claude för att generera rapporter, opinionsbildande material, innehåll i sociala medier och vittnesmål rörande Sudan, och drev cirka 300 falska konton i sociala medier för att förstärka budskapet.tag24+3

Bland de mest anmärkningsvärda inslagen var att operationen stal identiteten från en genuin schweizisk människorättsorganisation för att publicera statligt författade rapporter i dess namn. Operatörerna spökskrev även officiella vittnesmål avsedda för den 62:a sessionen i FN:s råd för mänskliga rättigheter, utformade med restriktioner för att säkerställa att inget av talen nämnde Förenade Arabemiraten. Anthropic uppgav att målet var att säkerställa att "material som tjänar en part i Sudankonflikten skulle nå FN som om det kom från oberoende lokala vittnen, snarare än statlig propaganda".france24+5

Kampanjen sammanställde även "mot-ansvarighetsdossierer" om FN-särskilda rapportörer som kritiserat Förenade Arabemiratens agerande i Sudan, samt utvecklade detaljerade personakter om 18 EU-parlamentariker och journalister.middleeasteye+1

Sudans fördjupade kris

Sedan april 2023 har Sudan varit drabbat av ett krig mellan armén och den paramilitära gruppen Rapid Support Forces, vilket utlöst vad FN kallar en av världens värsta humanitära kriser. Mer än 200 000 människor har dödats och miljontals har drivits på flykt.citizen+1

Förenade Arabemiraten har upprepade gånger förnekat anklagelser om att stödja RSF, även om FN:s oberoende utredningsgrupp förra veckan uppgav att privata aktörer verksamma från länder inklusive Förenade Arabemiraten använt transitplatser i Tchad, Libyen och Somalia för att underlätta leveranser av vapen och logistik till RSF.france24+1

Obesvarade frågor

Anthropic uppger att de har stängt av alla konton kopplade till kampanjen, stärkt säkerhetsåtgärderna och delat underrättelser med partners, men de kan inte bekräfta om vittnesmålen eller dossiererna nådde sina avsedda mottagare eller påverkade politiska beslut. Förenade Arabemiraten hade inte besvarat en förfrågan om kommentar från AFP under fredagen.middleeasteye+3