YouTube und X leiteten Millionen Nutzer auf Deepfake-Nacktbild-Seiten, so eine Studie

YouTube Alphabet Inc. ↗ 0.24% und X fungierten als primäre Gateways, die Millionen von Nutzern auf Websites leiteten, die ohne Zustimmung sexuell explizite Deepfake-Bilder generieren, so ein Bericht, der diese Woche vom Institute for Strategic Dialogue veröffentlicht wurde. Die Ergebnisse unterstreichen, wie die Moderationsrichtlinien der großen Plattformen die Verbreitung von Werkzeugen, die für bildbasierte sexuelle Gewalt genutzt werden, nicht verhindern können.

Ausmaß des Empfehlungsverkehrs

Der ISD-Bericht ergab, dass soziale Medien zwischen Dezember 2025 und März 2026 mehr als 5,7 Millionen Besuche auf "Nudify"-Seiten generierten. YouTube war die größte einzelne Quelle für Empfehlungsverkehr und für 1,82 Millionen Besuche verantwortlich – über 30 Prozent der Gesamtzahl. X belegte mit über 1,3 Millionen Besuchen den zweiten Platz. Videos auf YouTube, die Nutzer auf diese Seiten führten, enthielten Rezensionen und Werbeaktionen für bestimmte Apps, oft mit Links zu Promo-Codes für kostenlose Credits.meteoraweb+1

Melanie Smith, Forschungs- und Politikdirektorin beim ISD, sagte gegenüber Wired, dass YouTube nicht nur eine passive Empfehlungsquelle sei. "In vielen dieser Fälle wurde die Nutzung dieser Werkzeuge auch aktiv gefördert", so Smith. Sie merkte an, dass die Richtlinien von YouTube sowohl das Posten sexuell expliziter Inhalte als auch das Verlinken auf sexuell explizite Websites verbieten, aber "es scheint nicht so, als würde dies umfassend durchgesetzt".wired+1

Eine kostengünstige Industrie mit weitreichenden Schäden

Die Studie untersuchte die Preisgestaltung von "Nudify"-Werkzeugen und stellte fest, dass Nutzer explizite Bilder für nur einen Dollar pro Bild generieren konnten. Trotz dieser niedrigen Kosten können die Dienste lukrativ sein: Eine aktuelle Untersuchung von Wired schätzte, dass die führenden "Nudify"-Plattformen zusammen bis zu 36 Millionen Dollar an jährlichen Einnahmen generieren.meteoraweb+1

Der Bericht dokumentierte auch, dass zu den häufigen Zielen aktuelle und ehemalige Partner sowie Verwandte gehören. Die Motivationen gehen über sexuelle Gewalt hinaus; Smith sagte, dass "viele der Anfragen darauf abzielten, Menschen ihre Jobs zu kosten und ihre Lebensgrundlage auf bösartige Weise zu gefährden".meteoraweb

Gesetzgeberische Landschaft und Plattformverantwortung

Die Ergebnisse kommen inmitten einer wachsenden rechtlichen und regulatorischen Aufmerksamkeit für die Ausnutzung von Deepfakes. Der 2025 verabschiedete föderale Take It Down Act verpflichtet Plattformen dazu, nicht einvernehmliche intime Bilder innerhalb von 48 Stunden zu entfernen. Im Mai schrieb eine Koalition aus 54 zivilgesellschaftlichen Organisationen an die Generalstaatsanwälte der Bundesstaaten und drängte auf rechtliche Schritte gegen Anbieter von "Nudify"-Apps. Minnesota hat ein spezifisches Verbot für solche Apps erlassen.weareultraviolet+3

Dennoch argumentiert der ISD-Bericht, dass die bestehenden Maßnahmen unzureichend sind, und fordert koordinierte Reaktionen, einschließlich einer stärkeren Plattformregulierung und Programmen zur digitalen Kompetenz an Schulen. Anfang des Jahres ergab eine separate Untersuchung von Wired und Indicator, dass Fälle von Deepfake-Nacktbildern an etwa 90 Schulen in 28 Ländern gemeldet wurden, während ein Netzwerk koordinierter X-Konten noch im Juni aktiv "Nudify"-Werkzeuge bewarb.meteoraweb+2