Meta’nın Gözetim Kurulu, deepfake videosunun kaldırılmasına karar verdi ve politika değişiklikleri talep etti

Meta'nın ↘ 0.41% Gözetim Kurulu, Salı günü şirketin Instagram'da yapay zeka tarafından oluşturulduğu bildirilen cinsel içerikli bir videoyu yayında tutma kararını bozarak kaldırılmasına hükmetti ve Meta'yı, deepfake mahrem görüntülerinin hedefi olan halka açık olmayan kişiler için korumaları güçlendirmeye çağırdı.oversightboard+1

Kurul, Yapay Zeka ile Taklidin Varsayılan Olarak Rıza Dışı Olduğuna Karar Verdi

23 Haziran'da yayınlanan karar, bir kullanıcının, bir kadını taklit eden yapay zeka tarafından oluşturulmuş bir videonun, söz konusu kişinin rızası olmadan Instagram'da yayınlandığını ve "itibarını zedelediğini" bildirdiği bir vakaya dayanıyor. Meta başlangıçta içeriği yayında tutmaya karar vermişti, ancak Kurul, gönderinin şirketin Yetişkin Cinsel İstismarı politikasını ihlal ettiğini tespit etti.oversightboard+1

Kurul, kararında, gerçek kişilerin yapay zeka tarafından oluşturulan cinsel içerikli taklitlerinin varsayılan olarak rıza dışı kabul edilmesi ve Meta'nın rıza eksikliğini belirlemek için kullandığı sinyallere eklenmesi gerektiği sonucuna vardı. Kurul, Meta'ya, Yetişkin Cinsel İstismarı politikasına özellikle gerçek kişilerin yapay zeka tarafından oluşturulan cinsel içerikli taklitlerini kapsayan yeni bir sinyal eklemesini tavsiye etti.mlex+1

Küresel Raporlama Erişimi İçin Tavsiyeler

Kurul, birkaç ek tavsiyede bulundu. Meta'ya, kullanıcıların rıza dışı mahrem görüntüler içeren potansiyel ihlalleri kendi adlarına bildirebilecek "bağlı hesaplar" (güvenilir arkadaşlar, aile üyeleri veya iş arkadaşları) belirlemelerine izin vermesi çağrısında bulundu. Ayrıca Meta'nın, yapay zeka tarafından oluşturulan cinsel içerikli taklitler için "taciz" veya "çıplaklık" gibi mevcut kategorilerden ayrı bir raporlama kategorisi oluşturmasını ve bu tür raporlama formlarını küresel olarak erişilebilir hale getirmesini tavsiye etti.oversightboard

Şu anda, deepfake mahrem görüntülerine yönelik özel raporlama formları yalnızca Teksas ve Florida dahil olmak üzere belirli yargı bölgelerindeki kullanıcılar için mevcuttur. Kurul, tüm dünya kullanıcılarının bu araçlara erişimi olması gerektiğini savundu ve özellikle halka açık olmayan kişilerin "genellikle kendi kendilerini bildirme yükünü taşıdıklarını" belirtti.mlex

Kadınları Orantısız Şekilde Etkileyen Büyüyen Bir Sorun

Kurul ayrıca, Meta'nın politikalarındaki "aşağılayıcı cinsel içerikli photoshop" terimini "rıza dışı" manipüle edilmiş medyaya atıfta bulunan bir dille değiştirmesi ve İçerik Kökeni ve Özgünlüğü Koalisyonu'ndan (Coalition for Content Provenance and Authenticity) alınan içerik kimlik bilgilerini geniş ölçekte uygulaması yönündeki önceki tavsiyelerini yineledi. Dijital haklar örgütü WITNESS, kararın "yapay zeka tarafından oluşturulan cinsel içerikli taklitlerle ilgili temel endişeleri yansıttığını" belirterek, bu alandaki içerik denetiminin merkezine rızanın konulması gerektiğini doğruladı.witness+1

Karar, Kurul'un Şubat ayında davayı ele alacağına dair duyurusunun ardından geldi ve Kurul'un Meta'nın deepfake politikalarının güncellenmesi gerektiğini belirttiği Temmuz 2024 tarihli bir karara dayanıyor. Kurul, yapay zeka araçlarındaki gelişmelerin, kadınları ve kız çocuklarını orantısız bir şekilde etkileyen rıza dışı cinsel içeriklerin çoğalmasına yol açtığı konusunda uyardı.kark+1