TikTok testet KI-Tool zur Erkennung von Deepfakes

TikTok testet ein optionales Tool, das nach KI-generierten Abbildern von Creatorn sucht und es ihnen ermöglicht, unautorisierte Deepfake-Inhalte zu melden, wie das Unternehmen diese Woche bestätigte.

Der Social-Media-Berater Matt Navarra entdeckte die Funktion zuerst. Zachary Kizer, Sprecher von TikTok US, bestätigte gegenüber The Verge, dass das Tool derzeit einer begrenzten Gruppe von US-Creatorn zur Verfügung steht. Es erlaubt Creatorn, KI-generierte Inhalte zu überprüfen, die möglicherweise ihr Gesicht ohne Zustimmung verwenden, und entsprechende Beiträge oder Konten zu melden.theverge+1

Funktionsweise

Creator, die das Tool nutzen möchten, müssen ihre Identität zunächst über Jumio, einen Drittanbieter für Identitätsprüfung, verifizieren. Der Prozess umfasst ein Echtzeit-Selfie und eine Überprüfung des amtlichen Ausweises. Kizer erklärte gegenüber The Verge: "TikTok speichert keine Ausweisdokumente, und die Gesichtsinformationen werden ausschließlich für den Abgleich und zur Identifizierung potenziell unautorisierter Nutzungen des Abbilds eines Creators verwendet".theverge

Nach der Verifizierung scannt das System von TikTok KI-generierte Inhalte auf der Plattform auf potenzielle Übereinstimmungen mit dem Gesicht des Creators. Die Creator können dann markierte Inhalte prüfen und Beiträge oder Konten melden, von denen sie glauben, dass sie ihre Identität missbrauchen.digitaltrends

Aufholjagd gegenüber YouTube

Mit diesem Schritt begibt sich TikTok in direkten Wettbewerb zu YouTube, einer Tochtergesellschaft von Alphabet Inc. ↗ 0.78%, das seit 2024 an ähnlichen Schutzmaßnahmen arbeitet. YouTube weitete sein Tool zur Erkennung von Abbildern im Mai auf alle Nutzer über 18 Jahren aus, nachdem es zuvor schrittweise für Creator, Regierungsbeamte, Journalisten und Fachleute aus der Unterhaltungsbranche eingeführt wurde. Das System von YouTube funktioniert ähnlich und erfordert einen Selfie-Scan sowie eine Ausweisprüfung, bevor hochgeladene Inhalte auf unautorisierte Deepfakes überwacht werden.theverge+2

Die Tools kommen zu einer Zeit, in der KI-generierte Identitätsmissbräuche auf sozialen Plattformen zunehmen. Eine Studie von Kapwing aus dem Juni 2026 ergab, dass etwa 60 Prozent der TikTok-Videos mittlerweile als KI-generierte Inhalte eingestuft werden, während die Transparenzregeln des EU-KI-Gesetzes, die maschinenlesbare Kennzeichnungen für KI-Outputs vorschreiben, am 2. August in Kraft treten.memeburn

TikTok hat noch nicht bekannt gegeben, wann die Funktion zur Erkennung von Abbildern über die aktuelle Testgruppe hinaus allgemein verfügbar sein wird.