TikTok testaa tekoälytyökalua sisällöntuottajien deepfake-videoiden tunnistamiseen

TikTok testaa vapaaehtoista työkalua, joka skannaa tekoälyllä luotuja sisällöntuottajien kopioita ja antaa heidän ilmoittaa luvattomasta deepfake-sisällöstä, yhtiö vahvisti tällä viikolla.

Sosiaalisen median konsultti Matt Navarra huomasi ominaisuuden ensimmäisenä, ja TikTokin Yhdysvaltain tiedottaja Zachary Kizer vahvisti The Vergelle, että se on tällä hetkellä rajoitetun yhdysvaltalaisryhmän käytettävissä. Työkalu antaa sisällöntuottajille mahdollisuuden tarkistaa tekoälyllä luotua sisältöä, joka saattaa käyttää heidän kasvojaan ilman lupaa, ja ilmoittaa loukkaavista julkaisuista ja tileistä.theverge+1

Miten se toimii

Sisällöntuottajien, jotka haluavat käyttää työkalua, on ensin vahvistettava henkilöllisyytensä kolmannen osapuolen palvelun, Jumion, kautta. Prosessi sisältää reaaliaikaisen kasvoskannauksen ja virallisen henkilöllisyystodistuksen tarkistuksen. Kizer kertoi The Vergelle, että "TikTok ei säilytä henkilöllisyysasiakirjoja, ja kasvotietoja käytetään vain yhdennäköisyyden tunnistamiseen ja mahdollisten luvattomien käyttötapojen havaitsemiseen".theverge

Kun vahvistus on tehty, TikTokin järjestelmä skannaa alustalla olevaa tekoälyllä luotua sisältöä mahdollisten kasvojentunnistusten varalta. Sisällöntuottajat voivat sitten tarkistaa merkityn sisällön ja ilmoittaa julkaisuista tai tileistä, joiden he uskovat esiintyvän heinä.digitaltrends

Kilpailu YouTuben kanssa

Muutos asettaa TikTokin suoraan kilpailuun Alphabet Inc:n ↗ 0.73% omistaman YouTuben kanssa, joka on kehittänyt vastaavia suojauksia vuodesta 2024 lähtien. YouTube laajensi yhdennäköisyyden tunnistustyökalunsa kaikille yli 18-vuotiaille käyttäjille toukokuussa, tuotuaan sen aiemmin asteittain sisällöntuottajien, viranomaisten, toimittajien ja viihdealan ammattilaisten saataville. YouTuben järjestelmä toimii samalla tavalla vaatien selfie-tyylisen kasvoskannauksen ja henkilöllisyystodistuksen vahvistuksen ennen kuin se alkaa valvoa ladattua sisältöä luvattomien deepfake-videoiden varalta.theverge+2

Työkalut tulevat tarpeeseen, kun tekoälyllä luotu esiintymissisältö lisääntyy sosiaalisen median alustoilla. Kapwingin kesäkuussa 2026 tekemän tutkimuksen mukaan noin 60 prosenttia TikTok-videoista luokitellaan nykyään tekoälyllä luoduksi sisällöksi, ja EU:n tekoälysäädöksen läpinäkyvyyssäännöt, jotka vaativat koneellisesti luettavia merkintöjä tekoälytuotoksissa, astuvat voimaan 2. elokuuta.memeburn

TikTok ei ole ilmoittanut, milloin yhdennäköisyyden tunnistusominaisuus tulee laajemmin saataville nykyisen testiryhmän ulkopuolella.