NYT araştırması: Meta kullanıcı hesaplarını yanlışlıkla sildi

New York Times'ın Pazartesi günü yayınlanan araştırmasına göre Meta ↘ 0.53%, kullanıcıların yıllarca emek vererek oluşturduğu Facebook ve Instagram hesaplarını silmek için otomatik sistemler kullandı ve bu kullanıcılar itiraz etmeye çalıştıklarında, vakaları genellikle bir insan denetçiden ziyade başka bir yapay zeka tarafından ele alındı.

Haberde, Meta'nın bazı yasaklı hesapları, yaklaşık bir milyon takipçisi olan bir hesap da dahil olmak üzere, ancak Times gazetecilerinin mağdur kullanıcılar adına müdahale etmesinden sonra geri yüklediği belirtildi. Bazı durumlarda şirket, kullanıcılara bilgilerinin "geri döndürülemez şekilde silineceğini" ve başka bir incelemenin mümkün olmadığını söyledi.techcrunch+2

Otomatik Uygulama Modeli

Meta, Times'a yaptığı açıklamada, haberde incelenen hesapların en son yapay zeka araçları tarafından değil, eski denetim sistemleri tarafından yasaklandığını belirtti. Şirket, yeni otomatik sistemlerinin insan denetçilerden yüzde 13 daha az hata yaptığını ve yüzde 10 daha fazla ihlal yakaladığını iddia etti.threads+1

Ancak sistemin kurbanı olan kullanıcılar için bu ayrım pek bir anlam ifade etmiyor. İşletme sahipleri ve içerik üreticileri, hangi kuralı ihlal ettikleri söylenmeden hesaplarını kaybettiklerini ve itirazlarının yargılama yeteneğine sahip insan personele değil, otomatik süreçlere yönlendirildiğini bildirdi.aiweekly

Sorun yeni değil ancak şiddetlenmiş görünüyor. Mayıs ayında dünya genelindeki kullanıcılar, Instagram ve Facebook'ta hatalı hesap kapatma dalgası bildirdi. Ocak ayında ise 50.000'den fazla kullanıcı, Meta'nın "iğrenç" davranış suçlamalarıyla hesaplarını yanlışlıkla kapattığını belirtti.reddit+2

Gözetim Kurulu "Sistematik" Endişelere Dikkat Çekiyor

Bulgular, Meta'nın kendi Gözetim Kurulu tarafından haftalar önce yayınlanan uyarıları yansıtıyor. Kurul, Haziran ayında şirketin hesap kapatma sürecinin "sistematik insan hakları endişeleri" ve "şeffaflık ve tutarlılık eksikliği" yarattığını belirtti. Kurul, Meta'nın geçmiş ihlalleri, ihlal edilen belirli kuralları ve net itiraz seçeneklerini gösteren kullanıcı odaklı bir panel oluşturmasını önerdi; ancak bunların hiçbiri şu anda mevcut değil.mediapost+1

Kurul ayrıca Meta'ya, yapay zekanın içerik incelemesindeki ve ceza uygulamalarındaki rolünü açıklaması çağrısında bulunarak, kullanıcıların dijital varlıklarını silen kararı bir insanın mı yoksa bir makinenin mi verdiğini genellikle bilmediklerini kaydetti.techcrunch

Daha Az İnsan, Daha Fazla Otomasyon

Bu tartışma, Meta'nın insan gücünü keskin bir şekilde azalttığı bir dönemde ortaya çıkıyor. Şirket Mayıs ayında 8.000 çalışanını işten çıkardı ve 7.000 kişiyi yapay zeka projelerine kaydırdı; bu da denetim kararlarını gözden geçirecek daha az insanın kalmasına neden olan bir dönüşümü sürdürüyor. Mağdur kullanıcılar için sonuç, makinelerin önemli kararlar aldığı ve diğer makinelerin şikayetleri karara bağladığı, hiçbir insan müdahalesinin olmadığı bir sistemdir.nytimes+1