Gervigreind Meta eyddi notendaaðgöngum fyrir mistök

Meta ↘ 0.53% notaði sjálfvirk kerfi til að eyða Facebook og Instagram aðgöngum sem notendur höfðu byggt upp árum saman, og þegar notendur reyndu að áfrýja var málum þeirra oft vísað til annarrar gervigreindar frekar en mannlegs matsmanns, samkvæmt rannsókn New York Times sem birt var á mánudag.

Skýrslan leiddi í ljós að Meta endurheimti suma bannaða aðganga, þar á meðal einn með nærri milljón fylgjendur, aðeins eftir að blaðamenn Times gripu inn í fyrir hönd notenda. Í sumum tilfellum sagði fyrirtækið notendum að upplýsingum þeirra yrði „eytt endanlega“ og að frekari yfirferð væri ekki möguleg.techcrunch+2

Mynstur sjálfvirkrar framfylgdar

Meta sagði Times að aðgangarnir sem rannsóknin beindist að hefðu verið bannaðir af eldri stjórnunarkerfum, ekki nýjustu gervigreindartólum fyrirtækisins. Fyrirtækið sagði að nýrri sjálfvirk kerfi geri 13 prósent færri mistök og grípi 10 prósent fleiri brot en mannlegir matsmenn.threads+1

En fyrir notendur sem lenda í kerfinu er þessi greinarmunur lítil huggun. Eigendur fyrirtækja og efnisgerðarfólk greindu frá því að hafa misst aðganga án þess að fá að vita hvaða reglu þeir hefðu brotið, og komust að því að áfrýjanir voru hringferli, vísað aftur í sjálfvirk ferli frekar en til starfsfólks sem getur beitt dómgreind.aiweekly

Vandamálið er ekki nýtt en virðist hafa ágerst. Í maí greindu notendur um allan heim frá bylgju rangra lokana á Instagram og Facebook. Í janúar sögðu meira en 50.000 notendur að Meta hefði lokað aðgöngum þeirra fyrir mistök vegna ásakana um „svívirðilega“ hegðun.reddit+2

Eftirlitsráð bendir á „kerfisbundnar“ áhyggjur

Niðurstöðurnar enduróma viðvaranir sem eftirlitsráð Meta gaf út vikum fyrr, en í júní sagði ráðið að lokunarferli fyrirtækisins vekti upp „kerfisbundnar mannréttindaáhyggjur“ og „skort á gagnsæi og samræmi.“ Ráðið mælti með því að Meta bjó til mælaborð fyrir notendur sem sýnir fyrri brot, tilteknar reglur sem brotnar voru og skýra áfrýjunarmöguleika, en ekkert af þessu er til í dag.mediapost+1

Ráðið hvatti einnig Meta til að upplýsa um hlutverk gervigreindar í efnisyfirferð og beitingu refsinga, og benti á að notendur hafi oft enga hugmynd um hvort manneskja eða vél tók ákvörðunina sem eyddi stafrænni nærveru þeirra.techcrunch

Færri manneskjur, meiri sjálfvirkni

Deilan kemur upp á sama tíma og Meta hefur fækkað starfsfólki verulega. Fyrirtækið sagði upp 8.000 starfsmönnum í maí og færði 7.000 til í gervigreindarverkefni, sem heldur áfram breytingu sem hefur skilið eftir færra fólk til að fara yfir stjórnunarákvarðanir. Fyrir notendur er niðurstaðan kerfi þar sem vélar taka afdrifaríkar ákvarðanir og aðrar vélar dæma í kvörtunum, án þess að nokkur manneskja komi að málinu.nytimes+1