Dozorčí rada společnosti Meta nařídila odstranění deepfake videa a požaduje změny pravidel

Dozorčí rada společnosti Meta ↘ 4.90% v úterý zvrátila rozhodnutí společnosti ponechat na Instagramu údajně sexuálně zaměřené video vytvořené umělou inteligencí, nařídila jeho odstranění a vyzvala společnost Meta, aby posílila ochranu soukromých osob, které se stávají terčem intimních deepfake snímků.oversightboard+1

Rada rozhodla, že napodobování pomocí AI je ve výchozím nastavení bez souhlasu

Rozhodnutí, zveřejněné 23. června, vychází z případu, kdy uživatel nahlásil, že na Instagramu bylo bez souhlasu zobrazené osoby zveřejněno video vytvořené umělou inteligencí, které napodobuje ženu a „poškozuje její pověst“. Společnost Meta se původně rozhodla obsah ponechat, ale Rada zjistila, že příspěvek porušuje zásady společnosti týkající se sexuálního zneužívání dospělých.oversightboard+1

Ve svém rozhodnutí Rada dospěla k závěru, že sexuálně zaměřené napodobování skutečných osob pomocí umělé inteligence by mělo být ve výchozím nastavení považováno za obsah bez souhlasu a mělo by být přidáno k signálům, které Meta používá ke zjištění chybějícího souhlasu. Rada doporučila společnosti Meta, aby do svých zásad týkajících se sexuálního zneužívání dospělých přidala nový signál, který se bude specificky týkat sexuálně zaměřeného napodobování skutečných osob pomocí umělé inteligence.mlex+1

Doporučení pro globální přístup k hlášení

Rada vydala několik dalších doporučení. Vyzvala společnost Meta, aby uživatelům umožnila určit „propojené účty“ – důvěryhodné přátele, rodinné příslušníky nebo spolupracovníky –, kteří mohou jménem uživatele nahlásit potenciální porušení pravidel zahrnující intimní snímky bez souhlasu. Dále doporučila, aby Meta vytvořila samostatnou kategorii hlášení pro sexuálně zaměřené napodobování pomocí umělé inteligence, odlišnou od stávajících kategorií, jako je „obtěžování“ nebo „nahota“, a aby tyto formuláře pro hlášení zpřístupnila globálně.oversightboard

V současné době jsou specializované formuláře pro hlášení intimních deepfake snímků dostupné pouze uživatelům v určitých jurisdikcích, včetně Texasu a Floridy. Rada prosazovala, aby k těmto nástrojům měli přístup všichni uživatelé po celém světě, a poznamenala, že zejména soukromé osoby „často nesou břemeno vlastního hlášení“.mlex

Rostoucí problém, který neúměrně postihuje ženy

Rada rovněž zopakovala dřívější doporučení, aby Meta nahradila termín „hanlivý sexuálně zaměřený photoshop“ ve svých zásadách formulací odkazující na „manipulovaná média bez souhlasu“ a v širokém měřítku zavedla pověření k obsahu od organizace Coalition for Content Provenance and Authenticity. Organizace pro digitální práva WITNESS uvedla, že rozhodnutí „odráží klíčové obavy ohledně sexuálně zaměřeného napodobování pomocí umělé inteligence“ a potvrdila, že souhlas by měl být v této oblasti středobodem moderování obsahu.witness+1

Rozhodnutí následuje po únorovém oznámení Rady, že se případem bude zabývat, a navazuje na rozhodnutí z července 2024, v němž Rada uvedla, že zásady společnosti Meta týkající se deepfake obsahu potřebují aktualizaci. Rada varovala, že pokrok v nástrojích umělé inteligence vedl k šíření sexuálně zaměřeného obsahu bez souhlasu, který neúměrně poškozuje ženy a dívky.kark+1