Meta raderade användarkonton felaktigt med AI

Meta ↘ 2.26% använde automatiserade system för att radera Facebook- och Instagram-konton som användare lagt år på att bygga upp, och när dessa användare försökte överklaga hanterades deras ärenden ofta av en annan AI istället för en mänsklig granskare, enligt en granskning från New York Times som publicerades i måndags.

Rapporten visade att Meta återställde vissa avstängda konton, inklusive ett med nästan en miljon följare, först efter att journalister från Times ingripit för de drabbade användarnas räkning. I vissa fall fick användare beskedet att deras information skulle bli "oåterkalleligt raderad" och att ingen vidare granskning var möjlig.techcrunch+2

Ett mönster av automatiserad kontroll

Meta uppgav för Times att de konton som granskades i rapporten stängdes av äldre modereringssystem, inte deras senaste AI-verktyg. Företaget hävdade att deras nyare automatiserade system gör 13 procent färre misstag och upptäcker 10 procent fler överträdelser än mänskliga granskare.threads+1

Men för användare som fastnar i systemet ger den distinktionen liten tröst. Företagare och kreatörer rapporterade att de förlorat konton utan att få veta vilken specifik regel de brutit mot, och upptäckte att överklaganden var cirkulära, då de skickades tillbaka till automatiserade processer istället för till mänsklig personal som kan utöva omdöme.aiweekly

Problemet är inte nytt men verkar ha intensifierats. I maj rapporterade användare världen över om en våg av felaktiga avaktiveringar på Instagram och Facebook. I januari uppgav mer än 50 000 användare att Meta felaktigt stängt ner deras konton på grund av anklagelser om "avskyvärt" beteende.reddit+2

Oversight Board flaggar för "systemiska" problem

Resultaten ekar av varningar som utfärdades veckor tidigare av Metas eget Oversight Board, som i juni sade att företagets process för kontodeaktivering väcker "systemiska mänskliga rättighetsproblem" och lider av "brist på transparens och konsekvens". Styrelsen rekommenderade att Meta skapar en instrumentpanel för användare som visar tidigare överträdelser, specifika regler som brutits och tydliga alternativ för överklagande, vilket i dagsläget inte existerar.mediapost+1

Styrelsen uppmanade också Meta att redovisa vilken roll AI spelar i innehållsgranskning och införandet av påföljder, och noterade att användare ofta inte har en aning om huruvida en människa eller en maskin fattade beslutet som raderade deras digitala närvaro.techcrunch

Färre människor, mer automatisering

Kontroversen kommer samtidigt som Meta kraftigt har minskat sin mänskliga arbetsstyrka. Företaget sade upp 8 000 anställda i maj och omplacerade 7 000 andra till AI-projekt, vilket fortsätter en transformation som lämnat färre personer tillgängliga för att granska modereringsbeslut. För drabbade användare är resultatet ett system där maskiner fattar konsekvensrika beslut och andra maskiner avgör klagomålen, helt utan mänsklig inblandning.nytimes+1