Anthropic stanset AI-påvirkningsoperasjon knyttet til De forente arabiske emirater

Anthropic opplyser at de har avdekket og stanset en påvirkningsoperasjon som de med "høy grad av sikkerhet" knytter til myndighetspersoner i De forente arabiske emirater. En enkelt operatør skal ha brukt selskapets Claude-chatbot til å rette angrep mot Det muslimske brorskap og FN-eksperter som er kritiske til Abu Dhabis påståtte rolle i krigen i Sudan.al-monitor+1

Avsløringen, som er en del av en 154 sider lang trusselrapport publisert 10. september, representerer en av de mest omfattende statstilknyttede påvirkningsoperasjonene som noen gang er gjennomført via et kommersielt AI-system.afp+1

Operasjon "Deadshot"

Kampanjen var sentrert rundt en AI-persona kjent som "Deadshot", styrt av en doktrine som tok til orde for "en koordinert transatlantisk og regional operasjon for å demontere Det muslimske brorskap globalt". Operatøren brukte Claude til å generere rapporter, informasjonsmateriell, innhold til sosiale medier og vitnemål knyttet til Sudan, og drev rundt 300 falske kontoer i sosiale medier for å forsterke budskapet.tag24+3

Blant de mest oppsiktsvekkende elementene var at operasjonen stjal identiteten til en ekte sveitsisk menneskerettighetsorganisasjon for å publisere statlig forfattede rapporter i deres navn. Operatørene skrev også offisielle vitnemål ment for fremleggelse under den 62. sesjonen i FNs menneskerettighetsråd, utformet med restriksjoner for å sikre at ingen av talene nevnte De forente arabiske emirater. Anthropic uttalte at målet var å sikre at "materiell som tjener en part i Sudan-konflikten ville nå FN som om det kom fra uavhengige lokale vitner, fremfor statlig budskap".france24+5

Kampanjen samlet også "mot-ansvarlighetsmapper" om FNs spesialrapportører som hadde kritisert De forente arabiske emiraters opptreden i Sudan, og utarbeidet detaljerte personmapper om 18 EU-parlamentarikere og journalister.middleeasteye+1

Sudans dypere krise

Siden april 2023 har Sudan vært preget av en krig mellom hæren og den paramilitære gruppen Rapid Support Forces, noe som har utløst det FN kaller en av verdens verste humanitære kriser. Mer enn 200 000 mennesker er drept, og millioner er drevet på flukt.citizen+1

De forente arabiske emirater har gjentatte ganger avvist anklager om å støtte RSF, selv om FNs uavhengige granskingskommisjon forrige uke uttalte at private aktører fra land inkludert De forente arabiske emirater har brukt transittsteder i Tsjad, Libya og Somalia for å legge til rette for levering av våpen og logistikk til RSF.france24+1

Ubesvarte spørsmål

Anthropic opplyser at de har stengt alle kontoer knyttet til kampanjen, styrket sikkerhetstiltakene og delt etterretning med partnere, men de kan ikke bekrefte om vitnemålene eller mappene nådde frem til de tiltenkte mottakerne eller påvirket politiske beslutninger. De forente arabiske emirater hadde ikke besvart en forespørsel om kommentar fra AFP innen fredag.middleeasteye+3