Metas tillsynsnämnd beordrar borttagning av deepfake-video, kräver policyändringar

Metas tillsynsnämnd (Oversight Board) upphävde på tisdagen företagets beslut att låta en AI-genererad sexualiserad deepfake-video ligga kvar på Instagram och beordrade att den tas bort.oversightboard+1
Nämnden slog fast att AI-genererad efterlikning av verkliga personer som standard sker utan samtycke och uppmanade Meta att lägga till detta som en signal i sin policy mot utnyttjande.oversightboard
Den efterlyste även global tillgång till specialiserade verktyg för att rapportera deepfakes samt en ny kategori i rapporteringsformulär som är skild från "trakasserier" eller "nakenhet".mlex

Metas tillsynsnämnd upphävde på tisdagen företagets beslut att låta en påstått AI-genererad sexualiserad video ligga kvar på Instagram, beordrade att den tas bort och uppmanade Meta att stärka skyddet för privatpersoner som utsätts för intima deepfake-bilder.oversightboard+1

Nämnden slår fast att AI-efterlikning som standard sker utan samtycke

Beslutet, som publicerades den 23 juni, härrör från ett ärende där en användare rapporterat att en AI-genererad video som efterliknade en kvinna hade lagts upp på Instagram utan personens samtycke, vilket "skadade hennes rykte". Meta hade ursprungligen beslutat att låta innehållet ligga kvar, men nämnden fann att inlägget stred mot företagets policy för sexuellt utnyttjande av vuxna.oversightboard+1

I sitt utslag drog nämnden slutsatsen att AI-genererad sexualiserad efterlikning av verkliga personer bör behandlas som att den sker utan samtycke som standard och läggas till bland de signaler Meta använder för att fastställa brist på samtycke. Nämnden rekommenderade att Meta lägger till en ny signal i sin policy för sexuellt utnyttjande av vuxna som specifikt täcker AI-genererad sexualiserad efterlikning av verkliga personer.mlex+1

Rekommendationer för global tillgång till rapportering

Nämnden utfärdade flera ytterligare rekommendationer. Den uppmanade Meta att låta användare utse "anslutna konton" – betrodda vänner, familjemedlemmar eller bekanta – som kan rapportera potentiella överträdelser som involverar intima bilder utan samtycke å deras vägnar. Den rekommenderade också att Meta skapar en separat rapporteringskategori för AI-genererad sexualiserad efterlikning, skild från befintliga kategorier som "trakasserier" eller "nakenhet", och gör sådana rapporteringsformulär tillgängliga globalt.oversightboard

För närvarande är specialiserade rapporteringsformulär för intima deepfake-bilder endast tillgängliga för användare i vissa jurisdiktioner, inklusive Texas och Florida. Nämnden drev på för att alla användare världen över ska ha tillgång till dessa verktyg och noterade att privatpersoner i synnerhet "ofta bär bördan av att behöva rapportera själva".mlex

Ett växande problem som drabbar kvinnor oproportionerligt hårt

Nämnden upprepade också tidigare rekommendationer om att Meta bör ersätta termen "nedsättande sexualiserad photoshop" i sina policyer med formuleringar som hänvisar till "manipulerad media utan samtycke" och implementera innehållscertifiering från Coalition for Content Provenance and Authenticity i stor skala. Organisationen för digitala rättigheter, WITNESS, sade att beslutet "återspeglar centrala farhågor kring AI-genererad sexualiserad efterlikning" och bekräftade att samtycke bör stå i centrum för innehållsmoderering på detta område.witness+1

Beslutet följer på nämndens tillkännagivande i februari om att de skulle ta upp fallet, och bygger på ett beslut från juli 2024 där nämnden sade att Metas deepfake-policyer behövde uppdateras. Nämnden har varnat för att framsteg inom AI-verktyg har lett till en spridning av sexualiserat innehåll utan samtycke som drabbar kvinnor och flickor oproportionerligt hårt.kark+1

Källor (18)