Metas tilsynsråd beordrer fjerning av deepfake-video, krever endringer i retningslinjer

Metas ↗ 1.90% tilsynsråd omgjorde tirsdag selskapets beslutning om å la en angivelig AI-generert seksualisert video ligge ute på Instagram, beordret fjerning av den, og oppfordret Meta til å styrke beskyttelsen for ikke-offentlige personer som utsettes for intime deepfake-bilder.oversightboard+1

Rådet slår fast at AI-etterligning er uten samtykke som standard

Beslutningen, som ble publisert 23. juni, stammer fra en sak der en bruker rapporterte at en AI-generert video som etterlignet en kvinne, hadde blitt lagt ut på Instagram uten personens samtykke, noe som «skadet deres omdømme». Meta hadde opprinnelig besluttet å la innholdet ligge, men rådet fant at innlegget brøt med selskapets retningslinjer for seksuell utnyttelse av voksne.oversightboard+1

I sin kjennelse konkluderte rådet med at AI-generert seksualisert etterligning av virkelige personer bør behandles som uten samtykke som standard, og legges til signalene Meta bruker for å fastslå manglende samtykke. Rådet anbefalte at Meta legger til et nytt signal i sine retningslinjer for seksuell utnyttelse av voksne som spesifikt dekker AI-generert seksualisert etterligning av virkelige personer.mlex+1

Anbefalinger for global rapporteringstilgang

Rådet kom med flere tilleggsanbefalinger. Det oppfordret Meta til å la brukere utpeke «tilknyttede kontoer» – betrodde venner, familiemedlemmer eller bekjente – som kan rapportere potensielle brudd som involverer intime bilder uten samtykke på deres vegne. Det anbefalte også at Meta oppretter en egen rapporteringskategori for AI-generert seksualisert etterligning, adskilt fra eksisterende kategorier som «trakassering» eller «nakenhet», og gjør slike rapporteringsskjemaer tilgjengelige globalt.oversightboard

For øyeblikket er spesialiserte rapporteringsskjemaer for intime deepfake-bilder kun tilgjengelige for brukere i enkelte jurisdiksjoner, inkludert Texas og Florida. Rådet presset på for at alle brukere over hele verden skal ha tilgang til disse verktøyene, og bemerket at ikke-offentlige personer spesielt «ofte bærer byrden med å rapportere selv».mlex

Et voksende problem som rammer kvinner uforholdsmessig hardt

Rådet gjentok også tidligere anbefalinger om at Meta bør erstatte begrepet «nedsettende seksualisert photoshop» i sine retningslinjer med språk som refererer til «manipulert media uten samtykke», og implementere innholdssertifisering fra Coalition for Content Provenance and Authenticity i stor skala. Organisasjonen for digitale rettigheter, WITNESS, sa at beslutningen «reflekterer sentrale bekymringer knyttet til AI-generert seksualisert etterligning», og bekreftet at samtykke bør stå i sentrum for innholdsmoderering på dette området.witness+1

Kjennelsen følger rådets kunngjøring i februar om at de ville ta opp saken, og bygger på en beslutning fra juli 2024 der rådet sa at Metas deepfake-retningslinjer trengte oppdatering. Rådet har advart om at fremskritt innen AI-verktøy har ført til en spredning av seksualisert innhold uten samtykke som rammer kvinner og jenter uforholdsmessig hardt.kark+1