YouTube et X ont canalisé des millions d’utilisateurs vers des sites de deepfakes pornographiques, selon une étude

YouTube, filiale d'Alphabet Inc. ↗ 0.24%, et X ont servi de passerelles principales pour diriger des millions d'utilisateurs vers des sites web générant des images deepfake sexuellement explicites sans consentement, selon un rapport publié cette semaine par l'Institute for Strategic Dialogue. Ces résultats soulignent l'échec des politiques de modération des plateformes grand public à empêcher la prolifération d'outils utilisés pour les abus sexuels basés sur l'image.

Échelle du trafic de renvoi

Le rapport de l'ISD a révélé que les plateformes de réseaux sociaux ont généré plus de 5,7 millions de visites vers des sites de « nudify » entre décembre 2025 et mars 2026. YouTube a été la plus grande source unique de trafic de renvoi, responsable de 1,82 million de visites, soit plus de 30 % du total. X s'est classé deuxième, comptabilisant plus de 1,3 million de visites. Les vidéos sur YouTube menant les utilisateurs vers ces sites incluaient des critiques et des promotions d'applications spécifiques, contenant souvent des liens vers des codes promotionnels pour des crédits gratuits.meteoraweb+1

Melanie Smith, directrice principale de la recherche et des politiques à l'ISD, a déclaré à Wired que YouTube n'était pas simplement une source de renvoi passive. « Dans beaucoup de ces cas, la plateforme facilitait également l'utilisation de ces outils », a affirmé Smith. Elle a noté que les politiques de YouTube interdisent à la fois la publication de contenu sexuellement explicite et les liens vers des sites web sexuellement explicites, mais « il ne semble pas que cela soit appliqué de manière exhaustive ».wired+1

Une industrie à bas coût aux dommages étendus

L'étude a examiné la tarification des outils de « nudification » et a constaté que les utilisateurs pouvaient générer des images explicites pour seulement un dollar par image. Malgré ces faibles coûts, les services peuvent être lucratifs : une enquête récente de Wired a estimé que les principales plateformes de « nudify » génèrent collectivement jusqu'à 36 millions de dollars de revenus annuels.meteoraweb+1

Le rapport a également documenté que les cibles courantes incluent des partenaires actuels et anciens, ainsi que des proches. Les motivations vont au-delà de l'abus sexuel ; Smith a déclaré que « beaucoup de demandes visaient à faire licencier des personnes et à compromettre leurs moyens de subsistance de manières néfastes ».meteoraweb

Paysage législatif et responsabilité des plateformes

Ces conclusions arrivent dans un contexte d'attention juridique et réglementaire croissante concernant l'exploitation des deepfakes. La loi fédérale Take It Down Act, adoptée en 2025, exige que les plateformes suppriment les images intimes non consensuelles dans un délai de 48 heures. En mai, une coalition de 54 organisations de la société civile a écrit aux procureurs généraux des États pour exhorter à des poursuites judiciaires contre les fournisseurs d'applications de « nudify ». Le Minnesota a promulgué une interdiction spécifique des applications de « nudification ».weareultraviolet+3

Cependant, le rapport de l'ISD soutient que les mesures existantes sont insuffisantes et appelle à des réponses coordonnées, incluant une réglementation plus stricte des plateformes et des programmes d'éducation aux médias numériques dans les écoles. Plus tôt cette année, une enquête distincte de Wired et Indicator a révélé que des cas de deepfakes de nus avaient été signalés dans environ 90 écoles à travers 28 pays, tandis qu'un réseau de comptes X coordonnés a été surpris en train de promouvoir activement des outils de « nudify » encore en juin dernier.meteoraweb+2