Meta yüklenicileri, rakip sohbet robotlarını test etmek için genç taklidi yaptı, Wired bildiriyor

WIRED tarafından Pazar günü yayınlanan bir rapora göre, Meta ↗ 1.43% için bir projede çalışan yüzlerce yükleniciye, çocuk taklidi yapmaları ve Google'ın Gemini Alphabet Inc. ↗ 0.24% ve OpenAI'ın ChatGPT'si dahil olmak üzere rakip sohbet robotlarını intihar, seks ve uyuşturucu içeren istemlerle test etmeleri talimatı verildi.x+1

Kenya merkezli yükleniciler, testlerin bir parçası olarak hap, bıçak, ilmik ve jinekolojik bir prosedürün tıbbi şemasını içeren görüntüler gönderdi. İstemler, rakip yapay zeka sistemlerini sınırlarına zorlamak ve bu sohbet robotlarının tehlikeli içerik arayan reşit olmayanlara nasıl yanıt verdiği konusundaki güvenlik açıklarını ortaya çıkarmak için tasarlandı.tiktok+3

Dış kaynaklı testlerin bir modeli

Bu ifşa, teknoloji şirketlerinin yapay zeka ürünlerini, özellikle çocuklar etrafında nasıl test ettikleri ve koruduklarına dair devam eden incelemelere yeni bir boyut katıyor. Meta, kendi sohbet robotlarının reşit olmayanlarla etkileşimleri nedeniyle defalarca eleştirildi; buna, çocuk cinsel istismarı içeriğini engellemede %66,8'lik bir başarısızlık oranı ve intihar ve kendine zarar verme istemlerinde %54,8'lik bir başarısızlık oranı gösteren dahili bir kırmızı ekip değerlendirmesi de dahil. Şirket, yasal baskı nedeniyle Ocak 2026'da gençlerin yapay zeka arkadaş karakterlerine erişimini durdurdu.axios+1

İsveçli bir haber kuruluşu daha önce, Kenya'daki Meta yüklenicilerinin, rakiplerin reşit olmadığını iddia eden kullanıcılarla hassas konuşmaları nasıl ele aldığını hedefleyen testlere dahil olduğunu bildirmişti.instagram

Yapay zeka insan moderatörlerin yerini alıyor

Rapor, Meta'nın insan içerik moderasyonundan uzaklaşma sürecini hızlandırdığı bir dönemde geldi. Financial Times'ın geçen hafta bildirdiğine göre, şirket 2026'nın sonuna kadar içerik inceleme iş gücünün %90'ından fazlasını büyük dil modelleriyle değiştirmeyi planlıyor. Meta, bu yıl tüm insan inceleme taleplerinin yaklaşık yarısını yapay zekaya kaydırdı ve sistemlerin insan incelemecilerden %13 daha az hata yaparken %10 daha fazla politika ihlali yakaladığını iddia etti.socialmediatoday+2

Bu geçişin insani maliyeti şimdiden ortaya çıktı. Nisan ayında, Nairobi merkezli dış kaynak firması Sama, Meta'nın önemli bir sözleşmeyi resmen feshetmesinin ardından 1.108 çalışana işten çıkarma bildiriminde bulundu. Bu sözleşme feshini, Meta'nın akıllı gözlük görüntüleri aracılığıyla incelemeleri istenen rahatsız edici içerikleri tanımlayan Kenyalı çalışanların ihbarcı raporları izledi.washingtonpost+2

Meta'nın yurt dışındaki düşük ücretli yüklenicileri rakipleri stres testine tabi tutmak için kullanırken aynı zamanda otomasyon lehine moderasyon işlerini ortadan kaldırma şeklindeki ikili yaklaşımı, şirketler daha az insan korumasıyla giderek daha güçlü sistemler dağıtmak için yarışırken yapay zeka güvenliği tartışmasının merkezindeki gerilimleri vurguluyor.