Apple, yapay zeka ile üretilen müstehcen içerikli uygulamalara karşı kuralları sıkılaştırdı

Apple, 16 Ekim Cuma günü App Review yönergelerini güncelledi. Güncelleme, uygulamaların yapay zeka araçlarıyla oluşturulan görüntüler de dahil olmak üzere rıza dışı müstehcen içerikleri aktif olarak önlemesi ve kaldırması gerektiğini netleştiriyor. Apple ayrıca, incelemeyi geçip ardından gizli özellikleri ortaya çıkaran "yemle ve değiştir" uygulamalarına karşı kurallarını sıkılaştırdı. Değişiklikler, yapay zeka destekli "nudify" uygulamalarının Apple'ın inceleme sürecinden geçtiğine dair bir yıllık raporların ardından geldi.

Neler değişti

Apple'ın geliştirici duyurusuna göre, 1.2 numaralı kural kapsamındaki içerik denetimi gereksinimleri "artık yapay zeka araçları kullanılarak oluşturulan görüntüler de dahil olmak üzere rıza dışı müstehcen görüntüleri açıkça kapsamaktadır." Yeterli koruma önlemlerine sahip olmayan veya bildirimden sonra ihlalleri düzeltmeyen geliştiriciler, Geliştirici Davranış Kurallarını ihlal etme ve App Store'daki yerlerini kaybetme riskiyle karşı karşıya kalıyor. 9to5Mac'in haberine göre, 1.2 kuralının revize edilmiş metni artık kullanıcıların içerik "oluşturmasına, üretmesine, yüklemesine, paylaşmasına veya başka bir şekilde katkıda bulunmasına" izin veren uygulamaları kapsıyor.9to5mac.com+1

Yeni 2.5.19 numaralı kural, uygulamaların "gizli, uyuyan veya belgelenmemiş özellikler" içermemesi gerektiğini belirtiyor. Güncellenen yönergelere göre, bu tür özellikleri "kod gizleme veya diğer yöntemlerle" uygulama ikili dosyasında saklamaya çalışmak, uygulamanın kaldırılması ve geliştirici hesabının feshedilmesi için bir gerekçedir. Apple, bu kuralın daha önce 2.3.1 numaralı kural altında yer alan uzun süreli bir politikayı netleştirdiğini söylüyor. TECHi, kod gizlemeye yapılan atıfın 11 Ekim tarihli yönergelerde yer almadığını belirtti.developer.apple.com+2

MacRumors'un haberine göre Apple, kuralı "yalnızca onaydan sonra 'nudification' gibi zararlı yetenekleri ortaya çıkaran" uygulamalarla ilişkilendiriyor. Apple ayrıca 5. Bölümü de güncelledi. Şirket, insan kaçakçılığını veya çocuk istismarını (çocuk cinsel istismarı materyalleri dahil) kolaylaştıran uygulamaların "App Store'dan kaldırılacağını ve alternatif dağıtım kanallarından engelleneceğini" belirtti.developer.apple.com+1

Artan baskı

Ocak ayında Tech Transparency Project, App Store'da düzinelerce yapay zeka nudify uygulaması buldu. Nisan ayındaki bir takip raporu, Apple'ın arama önerilerinin ve reklamlarının kullanıcıları bu tür uygulamalara yönlendirdiğini ortaya koydu. 9to5Mac'in haberine göre Temmuz ayında San Francisco yetkilileri, Apple'a sekiz uygulamayı kaldırması talimatını verdi. Apple ve Google'ın bu uygulamaları teşvik ettiği iddialarının ardından Apple, CNET'e 15 işaretli uygulamayı kaldırdığını ve altı geliştiriciyi uyardığını söyledi. Grok, kadınların ve reşit olmayanların cinsel içerikli görüntülerini oluşturmak için kullanıldıktan sonra Apple, X ve Grok'u App Store'dan kaldırması yönünde çağrılarla karşılaştı.cnet.com+1

Apple'ın yaptırım iddiaları

Apple, geçen yıl güvenlik sorunları olan 150.000'den fazla uygulamanın müşterilere ulaşmasını engellediğini ve dolandırıcılık ile suistimal nedeniyle 193.000'den fazla geliştirici hesabını feshettiğini söylüyor. Şirket, zararlı içeriği uygulama onaylanana kadar gizleyen "kötü niyetli aktörleri, bazı durumlarda koordineli dolandırıcılık operasyonlarını" suçluyor. Apple, "Bu yönergeleri ihlal ettiklerinde uygulamaları kaldırmaktan ve arkasındaki geliştiricilerin hesaplarını feshetmekten çekinmiyoruz" açıklamasında bulundu.developer.apple.com