Metas Aufsichtsrat ordnet Entfernung eines Deepfake-Videos an und fordert Richtlinienänderungen

Der Aufsichtsrat von Meta ↗ 1.90% hat am Dienstag die Entscheidung des Unternehmens aufgehoben, ein angeblich KI-generiertes sexualisiertes Video auf Instagram online zu lassen. Er ordnete die Entfernung an und forderte Meta auf, den Schutz für Privatpersonen zu stärken, die Ziel von intimen Deepfake-Bildern werden.oversightboard+1

Gremium entscheidet: KI-Nachahmung ist standardmäßig nicht einvernehmlich

Die am 23. Juni veröffentlichte Entscheidung geht auf einen Fall zurück, in dem ein Nutzer meldete, dass ein KI-generiertes Video, das eine Frau nachahmt, ohne deren Zustimmung auf Instagram gepostet wurde, was "ihren Ruf schädigte". Meta hatte zunächst beschlossen, den Inhalt online zu lassen, doch das Gremium stellte fest, dass der Beitrag gegen die Richtlinie des Unternehmens zur sexuellen Ausbeutung Erwachsener verstieß.oversightboard+1

In seinem Urteil kam das Gremium zu dem Schluss, dass KI-generierte sexualisierte Nachahmungen realer Personen standardmäßig als nicht einvernehmlich behandelt werden sollten und in die Signale aufgenommen werden müssen, die Meta zur Feststellung fehlender Zustimmung verwendet. Das Gremium empfahl Meta, seiner Richtlinie zur sexuellen Ausbeutung Erwachsener ein neues Signal hinzuzufügen, das speziell KI-generierte sexualisierte Nachahmungen realer Personen abdeckt.mlex+1

Empfehlungen für weltweiten Meldezugang

Das Gremium gab mehrere zusätzliche Empfehlungen ab. Es forderte Meta auf, Nutzern die Möglichkeit zu geben, "verbundene Konten" – vertrauenswürdige Freunde, Familienmitglieder oder Bekannte – zu benennen, die potenzielle Verstöße im Zusammenhang mit nicht einvernehmlichen intimen Bildern in ihrem Namen melden können. Es empfahl außerdem, dass Meta eine separate Meldekategorie für KI-generierte sexualisierte Nachahmungen schafft, die sich von bestehenden Kategorien wie "Belästigung" oder "Nacktheit" unterscheidet, und solche Meldeformulare weltweit verfügbar macht.oversightboard

Derzeit sind spezialisierte Meldeformulare für intime Deepfake-Bilder nur für Nutzer in bestimmten Rechtsgebieten verfügbar, darunter Texas und Florida. Das Gremium drängte darauf, dass alle Nutzer weltweit Zugang zu diesen Tools erhalten sollten, und wies darauf hin, dass insbesondere Privatpersonen "oft die Last tragen, sich selbst zu melden".mlex

Ein wachsendes Problem, das Frauen unverhältnismäßig stark betrifft

Das Gremium bekräftigte zudem frühere Empfehlungen, dass Meta den Begriff "abfällige sexualisierte Photoshop-Bearbeitung" in seinen Richtlinien durch eine Formulierung ersetzt, die sich auf "nicht einvernehmliche" manipulierte Medien bezieht, und Inhaltsnachweise der Coalition for Content Provenance and Authenticity in großem Maßstab implementiert. Die Organisation für digitale Rechte WITNESS erklärte, die Entscheidung "spiegelt zentrale Bedenken hinsichtlich KI-generierter sexualisierter Nachahmungen wider" und bekräftigte, dass die Zustimmung bei der Moderation von Inhalten in diesem Bereich im Mittelpunkt stehen sollte.witness+1

Das Urteil folgt auf die Ankündigung des Gremiums vom Februar, den Fall zu übernehmen, und baut auf einer Entscheidung vom Juli 2024 auf, in der das Gremium erklärte, dass Metas Deepfake-Richtlinien aktualisiert werden müssten. Das Gremium hat davor gewarnt, dass Fortschritte bei KI-Tools zu einer Zunahme von nicht einvernehmlichen sexualisierten Inhalten geführt haben, die Frauen und Mädchen unverhältnismäßig stark schädigen.kark+1