TikTok testar AI-verktyg som upptäcker deepfakes av kreatörer

TikTok testar ett valfritt verktyg som skannar efter AI-genererade efterlikningar av kreatörer och låter dem flagga otillåtet deepfake-innehåll, bekräftade företaget denna vecka.

Sociala medier-konsulten Matt Navarra upptäckte funktionen först, och TikTok US-talespersonen Zachary Kizer bekräftade för The Verge att den för närvarande är tillgänglig för en begränsad grupp amerikanska kreatörer. Verktyget låter kreatörer granska AI-genererat innehåll som kan använda deras ansikte utan samtycke och rapportera stötande inlägg och konton.theverge+1

Hur det fungerar

Kreatörer som vill använda verktyget måste först verifiera sin identitet genom Jumio, ett tredjepartsföretag för identitetsverifiering. Processen innebär en selfie-skanning i realtid och en kontroll av en statlig ID-handling. Kizer berättade för The Verge att "TikTok sparar inte ID-dokument, och ansiktsinformation används endast för att matcha likhet och för att hjälpa till att identifiera potentiell otillåten användning av en kreatörs utseende".theverge

När identiteten är verifierad skannar TikToks system AI-genererat innehåll över hela plattformen efter potentiella matchningar med kreatörens ansikte. Kreatörer kan sedan granska flaggat innehåll och rapportera inlägg eller konton som de anser utger sig för att vara dem.digitaltrends

Tävlar mot YouTube

Draget placerar TikTok i direkt konkurrens med Alphabet Inc. ↗ 0.78%-ägda YouTube, som har utvecklat liknande skyddsåtgärder sedan 2024. YouTube utökade sitt verktyg för igenkänning av ansikten till alla användare över 18 år i maj, efter att gradvis ha rullat ut det till kreatörer, myndighetspersoner, journalister och yrkesverksamma inom underhållningsbranschen. YouTubes system fungerar på liknande sätt och kräver en selfie-liknande ansiktsskanning och verifiering av statlig ID-handling innan uppladdat innehåll övervakas efter otillåtna deepfakes.theverge+2

Verktygen kommer i en tid då AI-genererat innehåll som utger sig för att vara andra sprider sig på sociala plattformar. En studie från juni 2026 utförd av Kapwing visade att ungefär 60 procent av TikTok-videor nu klassificeras som AI-genererat innehåll, samtidigt som EU:s AI-förordnings transparensregler, som kräver maskinläsbara märken på AI-utdata, blir tvingande från och med den 2 augusti.memeburn

TikTok har inte meddelat när funktionen för igenkänning av ansikten kommer att bli brett tillgänglig utanför den nuvarande testgruppen.