AI společnosti Meta chybně mazala uživatelské účty

Společnost Meta ↘ 2.16% používala automatizované systémy k mazání účtů na Facebooku a Instagramu, které uživatelé budovali roky. Když se tito uživatelé pokusili odvolat, jejich případy často řešila jiná AI namísto lidského kontrolora, uvádí pondělní vyšetřování deníku New York Times.

Zpráva zjistila, že Meta obnovila některé zablokované účty, včetně jednoho s téměř milionem sledujících, až poté, co novináři z Times zasáhli jménem dotčených uživatelů. V některých případech společnost uživatelům sdělila, že jejich informace budou „nenávratně smazány“ a že žádná další kontrola není možná.techcrunch+2

Vzor automatizovaného vymáhání

Meta deníku Times sdělila, že účty zkoumané v reportáži byly zablokovány staršími moderačními systémy, nikoliv jejími nejnovějšími nástroji AI. Společnost uvedla, že její novější automatizované systémy dělají o 13 procent méně chyb a zachytí o 10 procent více porušení než lidští kontroloři.threads+1

Pro uživatele, kteří se do systému zapletli, je však tento rozdíl malou útěchou. Majitelé firem a tvůrci hlásili, že přišli o účty, aniž by jim bylo řečeno, jaké konkrétní pravidlo porušili, a zjistili, že odvolání jsou kruhová, směrovaná zpět k automatizovaným procesům namísto k lidským zaměstnancům schopným uplatnit úsudek.aiweekly

Problém není nový, ale zdá se, že se zintenzivnil. V květnu uživatelé po celém světě hlásili vlnu chybných deaktivací na Instagramu a Facebooku. V lednu více než 50 000 uživatelů uvedlo, že Meta chybně zrušila jejich účty kvůli obviněním z „ohavného“ chování.reddit+2

Dozorčí rada upozorňuje na „systémové“ obavy

Zjištění odrážejí varování vydaná o týdny dříve vlastní Dozorčí radou Mety, která v červnu uvedla, že proces deaktivace účtů ve společnosti vyvolává „systémové obavy o lidská práva“ a „nedostatek transparentnosti a konzistence“. Rada doporučila, aby Meta vytvořila uživatelský panel zobrazující minulá porušení, konkrétní porušená pravidla a jasné možnosti odvolání, nic z toho v současnosti neexistuje.mediapost+1

Rada také vyzvala Metu, aby zveřejnila roli AI při kontrole obsahu a ukládání sankcí, přičemž poznamenala, že uživatelé často netuší, zda rozhodnutí, které vymazalo jejich digitální přítomnost, učinil člověk nebo stroj.techcrunch

Méně lidí, více automatizace

Kontroverze přichází v době, kdy Meta výrazně snížila počet svých lidských zaměstnanců. Společnost v květnu propustila 8 000 zaměstnanců a dalších 7 000 přeřadila na projekty AI, čímž pokračuje v transformaci, která zanechala méně lidí dostupných pro kontrolu moderačních rozhodnutí. Pro dotčené uživatele je výsledkem systém, kde stroje činí závažná rozhodnutí a jiné stroje posuzují stížnosti, a to zcela bez zapojení člověka.nytimes+1