YouTube a X nasměrovaly miliony uživatelů na weby generující deepfake nahotu, uvádí studie

YouTube, vlastněný společností Alphabet Inc. ↗ 0.24%, a X sloužily jako hlavní brány, které nasměrovaly miliony uživatelů na webové stránky generující sexuálně explicitní deepfake snímky bez souhlasu, uvádí zpráva zveřejněná tento týden Institutem pro strategický dialog (ISD). Zjištění podtrhují, jak pravidla moderování hlavních platforem nedokážou zabránit šíření nástrojů používaných k sexuálnímu zneužívání prostřednictvím snímků.

Rozsah návštěvnosti z odkazů

Zpráva ISD zjistila, že platformy sociálních médií mezi prosincem 2025 a březnem 2026 vygenerovaly více než 5,7 milionu návštěv na webech generujících nahotu. YouTube byl největším zdrojem návštěvnosti, zodpovědným za 1,82 milionu návštěv – více než 30 procent z celkového počtu. X se umístil na druhém místě s více než 1,3 milionu návštěv. Videa na YouTube, která uživatele na tyto stránky vedla, zahrnovala recenze a propagaci konkrétních aplikací, často obsahující odkazy na promo kódy pro kredity zdarma.meteoraweb+1

Melanie Smith, ředitelka výzkumu a politiky ISD, pro Wired uvedla, že YouTube nebyl pouze pasivním zdrojem odkazů. „V mnoha těchto případech také usnadňoval používání těchto nástrojů,“ řekla Smith. Poznamenala, že pravidla YouTube zakazují jak zveřejňování sexuálně explicitního obsahu, tak odkazování na sexuálně explicitní webové stránky, ale „nezdá se, že by to bylo komplexně vymáháno“.wired+1

Nízkonákladový průmysl s rozsáhlými škodami

Studie zkoumala cenotvorbu nástrojů pro generování nahoty a zjistila, že uživatelé mohou generovat explicitní snímky za pouhý jeden dolar za snímek. Navzdory těmto nízkým nákladům mohou být tyto služby lukrativní: nedávné vyšetřování Wired odhadlo, že největší platformy pro generování nahoty společně generují roční příjmy až 36 milionů dolarů.meteoraweb+1

Zpráva také zdokumentovala, že častými cíli jsou současní i bývalí partneři, stejně jako příbuzní. Motivace přesahují rámec sexuálního zneužívání; Smith uvedla, že „mnoho požadavků se týkalo toho, aby lidé přišli o práci a aby jim bylo nekalými způsoby poškozeno živobytí“.meteoraweb

Legislativní prostředí a odpovědnost platforem

Zjištění přicházejí v době rostoucí právní a regulační pozornosti věnované zneužívání deepfake technologií. Federální zákon Take It Down Act, přijatý v roce 2025, vyžaduje, aby platformy odstranily intimní snímky bez souhlasu do 48 hodin. V květnu koalice 54 organizací občanské společnosti napsala generálním prokurátorům států a naléhala na právní kroky proti poskytovatelům aplikací pro generování nahoty. Minnesota zavedla zákaz těchto aplikací specificky.weareultraviolet+3

Zpráva ISD přesto tvrdí, že stávající opatření jsou nedostatečná, a vyzývá ke koordinovaným reakcím, včetně přísnější regulace platforem a programů digitální gramotnosti ve školách. Začátkem tohoto roku samostatné vyšetřování Wired a Indicator zjistilo, že případy deepfake nahoty byly hlášeny přibližně v 90 školách ve 28 zemích, zatímco síť koordinovaných účtů na X byla aktivně využívána k propagaci nástrojů pro generování nahoty ještě v červnu.meteoraweb+2