„Meta“ dirbtinis intelektas klaidingai ištrynė vartotojų paskyras

„Meta“ ↗ 6.55% naudojo automatizuotas sistemas „Facebook“ ir „Instagram“ paskyroms, kurias vartotojai kūrė metų metus, ištrinti. Kai vartotojai bandė teikti apeliacijas, jų atvejus dažnai nagrinėjo kitas dirbtinis intelektas, o ne žmogus, rodo pirmadienį paskelbtas „New York Times“ tyrimas.

Ataskaitoje nustatyta, kad „Meta“ atstatė kai kurias užblokuotas paskyras, įskaitant vieną, turėjusią beveik milijoną sekėjų, tik po to, kai „Times“ žurnalistai įsikišo nukentėjusių vartotojų vardu. Kai kuriais atvejais bendrovė vartotojams pranešė, kad jų informacija bus „negrįžtamai ištrinta“ ir kad joks tolesnis peržiūros procesas neįmanomas.techcrunch+2

Automatizuoto vykdymo modelis

„Meta“ teigė „Times“, kad ataskaitoje nagrinėtos paskyros buvo užblokuotos senesnių moderavimo sistemų, o ne naujausių DI įrankių. Bendrovė teigė, kad jos naujesnės automatizuotos sistemos daro 13 procentų mažiau klaidų ir aptinka 10 procentų daugiau pažeidimų nei žmonės moderatoriai.threads+1

Tačiau vartotojams, patekusiems į šią sistemą, toks skirtumas menka paguoda. Verslo savininkai ir kūrėjai pranešė praradę paskyras nebuvę informuoti, kokią konkrečią taisyklę pažeidė, ir sužinojo, kad apeliacijos yra uždaras ratas, nukreipiantis atgal į automatizuotus procesus, o ne į žmones, galinčius priimti pagrįstus sprendimus.aiweekly

Problema nėra nauja, tačiau atrodo, kad ji suintensyvėjo. Gegužę vartotojai visame pasaulyje pranešė apie klaidingų deaktyvavimų bangą „Instagram“ ir „Facebook“ platformose. Sausį daugiau nei 50 000 vartotojų teigė, kad „Meta“ klaidingai uždarė jų paskyras dėl kaltinimų „bjauriu“ elgesiu.reddit+2

Priežiūros taryba nurodo „sistemines“ problemas

Šios išvados atkartoja įspėjimus, kuriuos prieš kelias savaites paskelbė „Meta“ Priežiūros taryba. Birželį ji pareiškė, kad bendrovės paskyrų deaktyvavimo procesas kelia „sisteminių žmogaus teisių problemų“ bei pasižymi „skaidrumo ir nuoseklumo stoka“. Taryba rekomendavo „Meta“ sukurti vartotojams skirtą skydelį, kuriame būtų rodomi ankstesni pažeidimai, konkrečios pažeistos taisyklės ir aiškios apeliacijos galimybės, tačiau šiuo metu nieko panašaus nėra.mediapost+1

Taryba taip pat paragino „Meta“ atskleisti DI vaidmenį peržiūrint turinį ir skiriant nuobaudas, pažymėdama, kad vartotojai dažnai neturi supratimo, ar sprendimą ištrinti jų skaitmeninį buvimą priėmė žmogus, ar mašina.techcrunch

Mažiau žmonių, daugiau automatizavimo

Ši kontroversija kyla „Meta“ drastiškai mažinant darbuotojų skaičių. Gegužę bendrovė atleido 8 000 darbuotojų, o dar 7 000 perkėlė į DI projektus, tęsdama transformaciją, dėl kurios liko mažiau žmonių, galinčių peržiūrėti moderavimo sprendimus. Nukentėjusiems vartotojams rezultatas yra sistema, kurioje mašinos priima svarbius sprendimus, o kitos mašinos nagrinėja skundus, visiškai be jokio žmogaus įsikišimo.nytimes+1