Eftirlitsráð Meta fyrirskipar fjarlægingu á deepfake-myndbandi og krefst breytinga á stefnu

Eftirlitsráð Meta ↘ 4.90% sneri á þriðjudag við ákvörðun fyrirtækisins um að láta kynferðislegt myndband, sem talið er búið til með gervigreind, vera áfram á Instagram og fyrirskipaði að það yrði fjarlægt. Jafnframt var skorað á Meta að styrkja vernd fyrir einstaklinga sem ekki eru opinberar persónur en verða fyrir barðinu á kynferðislegum deepfake-myndum.oversightboard+1

Ráðið úrskurðar að eftirlíking með gervigreind sé án samþykkis sjálfgefið

Ákvörðunin, sem birt var 23. júní, stafar af máli þar sem notandi tilkynnti að myndband búið til með gervigreind sem hermdi eftir konu hefði verið birt á Instagram án samþykkis viðkomandi, sem „skaðaði mannorð hennar“. Meta hafði upphaflega ákveðið að láta efnið vera áfram, en ráðið komst að því að færslan bryti gegn stefnu fyrirtækisins um kynferðislega misnotkun á fullorðnum.oversightboard+1

Í úrskurði sínum komst ráðið að þeirri niðurstöðu að kynferðisleg eftirlíking af raunverulegu fólki sem búin er til með gervigreind ætti að teljast án samþykkis sjálfgefið og bæta við þeim merkjum sem Meta notar til að staðfesta skort á samþykki. Ráðið mælti með því að Meta bætti nýju merki við stefnu sína um kynferðislega misnotkun á fullorðnum sem nær sérstaklega yfir kynferðislega eftirlíkingu af raunverulegu fólki búna til með gervigreind.mlex+1

Tillögur um alþjóðlegan aðgang að tilkynningum

Ráðið setti fram nokkrar viðbótartillögur. Það skoraði á Meta að leyfa notendum að tilnefna „tengda reikninga“ — trausta vini, fjölskyldumeðlimi eða samstarfsaðila — sem geta tilkynnt um hugsanleg brot sem varða kynferðislegt efni án samþykkis fyrir þeirra hönd. Það mælti einnig með því að Meta búi til sérstakan tilkynningarflokk fyrir kynferðislega eftirlíkingu með gervigreind, aðgreindan frá núverandi flokkum eins og „áreitni“ eða „nekt“, og geri slík tilkynningareyðublöð aðgengileg á heimsvísu.oversightboard

Sem stendur eru sérhæfð tilkynningareyðublöð fyrir kynferðislegt deepfake-efni aðeins í boði fyrir notendur í ákveðnum lögsagnarumdæmum, þar á meðal Texas og Flórída. Ráðið þrýsti á um að allir notendur um allan heim fái aðgang að þessum verkfærum og benti á að einstaklingar sem ekki eru opinberar persónur „beri oft byrðina af því að tilkynna sjálfir“.mlex

Vaxandi vandamál sem hefur óhófleg áhrif á konur

Ráðið ítrekaði einnig fyrri tillögur um að Meta skipti út hugtakinu „niðrandi kynferðisleg photoshop-vinnsla“ í stefnum sínum fyrir orðalag sem vísar til „óheimillar“ meðhöndlunar á miðlum, og innleiði efnisauðkenni frá Coalition for Content Provenance and Authenticity í stórum stíl. Mannréttindasamtökin WITNESS sögðu að ákvörðunin „endurspegli lykiláhyggjur varðandi kynferðislega eftirlíkingu með gervigreind“ og staðfesti að samþykki ætti að vera í miðju efnisstjórnunar á þessu sviði.witness+1

Úrskurðurinn fylgir í kjölfar tilkynningar ráðsins í febrúar um að það myndi taka málið til meðferðar og byggir á ákvörðun frá júlí 2024 þar sem ráðið sagði að stefna Meta um deepfake þyrfti uppfærslu. Ráðið hefur varað við því að framfarir í gervigreindartækjum hafi leitt til fjölgunar á kynferðislegu efni án samþykkis sem skaðar konur og stúlkur óhóflega.kark+1