Metan valvontaelin määrää deepfake-videon poistettavaksi ja vaatii muutoksia käytäntöihin

Metan valvontaelin kumosi tiistaina yhtiön päätöksen jättää tekoälyllä luotu seksualisoitu deepfake-video Instagramiin ja määräsi sen poistettavaksi.oversightboard+1
Valvontaelin linjasi, että tekoälyllä luotu todellisten ihmisten esittäminen on oletusarvoisesti ilman suostumusta tapahtuvaa, ja kehotti Metaa lisäämään tämän signaaliksi hyväksikäyttöä koskevaan käytäntöönsä.oversightboard
Se vaati myös maailmanlaajuista pääsyä erikoistuneisiin deepfake-ilmoitustyökaluihin sekä uutta kategoriaa, joka eroaa "häirinnästä" tai "alastomuudesta" ilmoituslomakkeissa.mlex

Metan valvontaelin kumosi tiistaina yhtiön päätöksen jättää tekoälyllä luotu seksualisoitu video Instagramiin, määräsi sen poistettavaksi ja kehotti Metaa vahvistamaan suojaa yksityishenkilöille, jotka joutuvat deepfake-tyyppisten intiimien kuvien kohteeksi.oversightboard+1

Valvontaelin linjaa tekoälyllä tehdyn esittämisen olevan oletusarvoisesti ilman suostumusta

23. kesäkuuta julkaistu päätös juontaa juurensa tapauksesta, jossa käyttäjä ilmoitti, että naista esittävä tekoälyllä luotu video oli julkaistu Instagramissa ilman kuvatun henkilön suostumusta, mikä "vahingoitti hänen mainettaan". Meta oli alun perin päättänyt jättää sisällön näkyviin, mutta valvontaelin totesi julkaisun rikkovan yhtiön aikuisten seksuaalista hyväksikäyttöä koskevaa käytäntöä.oversightboard+1

Ratkaisussaan valvontaelin totesi, että tekoälyllä luotua todellisten ihmisten seksualisoitua esittämistä tulisi kohdella oletusarvoisesti ilman suostumusta tapahtuvana ja lisätä signaaleihin, joita Meta käyttää suostumuksen puutteen määrittämiseen. Valvontaelin suositteli, että Meta lisää uuden signaalin aikuisten seksuaalista hyväksikäyttöä koskevaan käytäntöönsä, joka kattaa erityisesti tekoälyllä luodun todellisten ihmisten seksualisoidun esittämisen.mlex+1

Suositukset maailmanlaajuisesta ilmoituspääsystä

Valvontaelin antoi useita lisäsuosituksia. Se kehotti Metaa sallimaan käyttäjien nimetä "yhdistettyjä tilejä" – luotettavia ystäviä, perheenjäseniä tai yhteistyökumppaneita – jotka voivat ilmoittaa heidän puolestaan mahdollisista rikkomuksista, jotka liittyvät ilman suostumusta jaettuihin intiimeihin kuviin. Se suositteli myös, että Meta luo erillisen ilmoituskategorian tekoälyllä luodulle seksualisoidulle esittämiselle, joka on erillään olemassa olevista kategorioista, kuten "häirintä" tai "alastomuus", ja tekee tällaiset ilmoituslomakkeet saataville maailmanlaajuisesti.oversightboard

Tällä hetkellä erikoistuneet ilmoituslomakkeet deepfake-tyyppisille intiimeille kuville ovat saatavilla vain tietyillä lainkäyttöalueilla, kuten Texasissa ja Floridassa. Valvontaelin vaati, että kaikilla käyttäjillä ympäri maailmaa tulisi olla pääsy näihin työkaluihin, huomauttaen, että erityisesti yksityishenkilöt "kantavat usein taakan ilmoittaa itse".mlex

Kasvava ongelma, joka vaikuttaa suhteettomasti naisiin

Valvontaelin toisti myös aiemmat suosituksensa siitä, että Metan tulisi korvata termi "halventava seksualisoitu photoshop" käytännöissään kielellä, joka viittaa "ilman suostumusta" manipuloituun mediaan, ja ottaa laajasti käyttöön Coalition for Content Provenance and Authenticity -yhteenliittymän sisältötunnisteet. Digitaalisten oikeuksien järjestö WITNESS totesi, että päätös "heijastaa keskeisiä huolenaiheita tekoälyllä luodusta seksualisoidusta esittämisestä", vahvistaen, että suostumuksen tulisi olla sisällön moderoinnin keskiössä tällä alueella.witness+1

Ratkaisu seuraa valvontaelimen helmikuussa tekemää ilmoitusta, että se ottaa tapauksen käsittelyyn, ja se pohjautuu heinäkuun 2024 päätökseen, jossa valvontaelin totesi Metan deepfake-käytäntöjen tarvitsevan päivitystä. Valvontaelin on varoittanut, että tekoälytyökalujen kehitys on johtanut ilman suostumusta jaetun seksualisoidun sisällön lisääntymiseen, mikä vahingoittaa suhteettomasti naisia ja tyttöjä.kark+1

Lähteet (18)