Meta poisti käyttäjätilejä virheellisesti, kertoo NYT

Meta ↘ 2.12% käytti automatisoituja järjestelmiä poistaakseen Facebook- ja Instagram-tilejä, joiden rakentamiseen käyttäjät olivat käyttäneet vuosia. Kun nämä käyttäjät yrittivät valittaa päätöksestä, tapaukset päätyivät usein toisen tekoälyn käsiteltäväksi ihmisen sijaan, kertoo New York Timesin maanantaina julkaisema tutkinta.

Raportin mukaan Meta palautti joitakin suljettuja tilejä, mukaan lukien yhden lähes miljoonan seuraajan tilin, vasta sen jälkeen, kun Timesin toimittajat puuttuivat asiaan käyttäjien puolesta. Joissakin tapauksissa yhtiö ilmoitti käyttäjille, että heidän tietonsa "poistetaan pysyvästi" eikä jatkokäsittely ole mahdollista.techcrunch+2

Automatisoidun valvonnan kaava

Meta kertoi Timesille, että raportissa tarkastellut tilit suljettiin vanhemmilla moderointijärjestelmillä, ei uusimmilla tekoälytyökaluilla. Yhtiön mukaan sen uudemmat automatisoidut järjestelmät tekevät 13 prosenttia vähemmän virheitä ja havaitsevat 10 prosenttia enemmän sääntörikkomuksia kuin ihmismoderaattorit.threads+1

Järjestelmän uhreiksi joutuneille käyttäjille tämä selitys tarjoaa kuitenkin vähän lohtua. Yritysten omistajat ja sisällöntuottajat kertoivat menettäneensä tilejään ilman tietoa siitä, mitä sääntöä he olivat rikkoneet. He huomasivat myös, että valitusprosessi oli kehämäinen: se ohjautui takaisin automaattisiin prosesseihin sen sijaan, että se olisi päätynyt harkintakykyä käyttävälle ihmiselle.aiweekly

Ongelma ei ole uusi, mutta se näyttää kiihtyneen. Toukokuussa käyttäjät ympäri maailmaa raportoivat virheellisistä tilien sulkemisista Instagramissa ja Facebookissa. Tammikuussa yli 50 000 käyttäjää kertoi Metan sulkeneen heidän tilinsä virheellisesti syytettynä "hirvittävästä" käytöksestä.reddit+2

Valvontalautakunta nostaa esiin "systeemisiä" huolia

Havainnot toistavat Metan oman valvontalautakunnan viikkoja aiemmin esittämiä varoituksia. Lautakunta totesi kesäkuussa, että yhtiön tilien sulkemisprosessi herättää "systeemisiä ihmisoikeushuolia" ja kärsii "läpinäkyvyyden ja johdonmukaisuuden puutteesta". Lautakunta suositteli, että Meta loisi käyttäjille näkymän, josta näkisi aiemmat rikkomukset, rikotut säännöt ja selkeät valitusmahdollisuudet, mutta mitään näistä ei ole tällä hetkellä olemassa.mediapost+1

Lautakunta vaati myös Metaa paljastamaan tekoälyn roolin sisällön tarkistamisessa ja rangaistusten määräämisessä, huomauttaen, että käyttäjät eivät usein tiedä, tekikö digitaalisen läsnäolon poistaneen päätöksen ihminen vai kone.techcrunch

Vähemmän ihmisiä, enemmän automaatiota

Kiista nousee esiin samaan aikaan, kun Meta on vähentänyt merkittävästi ihmistyövoimaansa. Yhtiö irtisanoi 8 000 työntekijää toukokuussa ja siirsi 7 000 muuta tekoälyprojekteihin. Tämä muutos on jättänyt vähemmän ihmisiä tarkistamaan moderointipäätöksiä. Vaikuttuneiden käyttäjien kannalta tuloksena on järjestelmä, jossa koneet tekevät merkittäviä päätöksiä ja toiset koneet käsittelevät valitukset, ilman minkäänlaista ihmisen väliintuloa.nytimes+1