Meta slettet brukerkontoer feilaktig med AI

Meta ↘ 2.59% brukte automatiserte systemer til å slette Facebook- og Instagram-kontoer som brukere hadde brukt år på å bygge opp, og da disse brukerne prøvde å anke, ble sakene deres ofte håndtert av en annen AI i stedet for en menneskelig saksbehandler, ifølge en undersøkelse fra New York Times publisert mandag.

Rapporten avdekket at Meta gjenopprettet enkelte utestengte kontoer, inkludert en med nesten en million følgere, først etter at journalister fra Times grep inn på vegne av de berørte brukerne. I enkelte tilfeller fikk brukere beskjed om at informasjonen deres ville bli "ugjenkallelig slettet" og at ingen videre vurdering var mulig.techcrunch+2

Et mønster av automatisert håndheving

Meta opplyste til Times at kontoene som ble undersøkt i saken, ble utestengt av eldre modereringssystemer, ikke deres nyeste AI-verktøy. Selskapet hevdet at deres nyere automatiserte systemer gjør 13 prosent færre feil og fanger opp 10 prosent flere brudd enn menneskelige moderatorer.threads+1

Men for brukere som havner i systemet, gir dette liten trøst. Bedriftseiere og innholdsskapere rapporterte at de mistet kontoer uten å få vite hvilken spesifikk regel de hadde brutt, og opplevde at anker var sirkulære, da de ble rutet tilbake til automatiserte prosesser i stedet for til menneskelig personell som kunne utøve skjønn.aiweekly

Problemet er ikke nytt, men ser ut til å ha tiltatt. I mai rapporterte brukere over hele verden om en bølge av feilaktige deaktiveringer på Instagram og Facebook. I januar sa mer enn 50 000 brukere at Meta feilaktig hadde stengt kontoene deres på grunn av anklager om "avskyelig" oppførsel.reddit+2

Oversight Board peker på "systemiske" bekymringer

Funnene gjenspeiler advarsler utstedt uker tidligere av Metas eget Oversight Board, som i juni uttalte at selskapets prosess for kontodeaktivering reiser "systemiske menneskerettighetsbekymringer" og mangler "åpenhet og konsekvens". Styret anbefalte at Meta oppretter et dashbord for brukere som viser tidligere brudd, spesifikke regler som er brutt, og klare ankemuligheter, noe som per i dag ikke eksisterer.mediapost+1

Styret oppfordret også Meta til å offentliggjøre hvilken rolle AI spiller i innholdsmoderering og ileggelse av sanksjoner, og påpekte at brukere ofte ikke aner om det var et menneske eller en maskin som tok beslutningen om å slette deres digitale tilstedeværelse.techcrunch

Færre mennesker, mer automatisering

Kontroversen oppstår samtidig som Meta har redusert arbeidsstyrken kraftig. Selskapet sa opp 8 000 ansatte i mai og omplasserte 7 000 andre til AI-prosjekter, noe som fortsetter en transformasjon som har etterlatt færre mennesker til å vurdere modereringsbeslutninger. For de berørte brukerne er resultatet et system der maskiner tar konsekvensfulle valg og andre maskiner behandler klagene, helt uten menneskelig involvering.nytimes+1