Apple zpřísňuje pravidla App Store pro aplikace generující nahotu pomocí AI

Společnost Apple v pátek 16. října revidovala své pokyny pro kontrolu aplikací v App Store. Aktualizace jasně stanovuje, že aplikace musí aktivně předcházet šíření intimních snímků bez souhlasu, včetně obrázků vytvořených pomocí nástrojů umělé inteligence, a odstraňovat je. Apple také zpřísnil pravidla proti aplikacím, které po schválení odhalují skryté funkce. Změny přicházejí po roce zpráv o tom, že aplikace využívající AI k tvorbě nahoty úspěšně procházely procesem kontroly společnosti Apple.

Co se změnilo

Oznámení společnosti Apple pro vývojáře uvádí, že požadavky na moderování obsahu podle pravidla 1.2 „nyní výslovně zahrnují intimní snímky bez souhlasu, včetně snímků vygenerovaných pomocí nástrojů AI“. Vývojáři, kteří nemají odpovídající zabezpečení nebo po upozornění nenapraví porušení pravidel, riskují porušení Etického kodexu vývojářů a ztrátu místa v App Store. Revidované znění pravidla 1.2 se nyní vztahuje na aplikace, které uživatelům umožňují „vytvářet, generovat, nahrávat, sdílet nebo jinak přispívat“ k obsahu, uvedl server 9to5Mac.9to5mac.com+1

Nové pravidlo 2.5.19 uvádí, že aplikace nesmí obsahovat „skryté, neaktivní nebo nedokumentované funkce“. Dodává, že pokus o skrytí takových funkcí v binárním souboru aplikace „prostřednictvím maskování kódu nebo jiných metod“ je důvodem k odstranění aplikace a zrušení účtu vývojáře. Apple uvádí, že pravidlo upřesňuje dlouhodobou politiku, která byla dříve součástí pravidla 2.3.1. Server TECHi poznamenal, že odkaz na maskování kódu se ve verzi pokynů z 11. října neobjevoval.developer.apple.com+2

Apple spojuje toto pravidlo s aplikacemi, které „odhalují škodlivé schopnosti, jako je generování nahoty, až po schválení“, uvedl server MacRumors. Apple také aktualizoval sekci 5. Aplikace, které usnadňují obchodování s lidmi nebo zneužívání dětí, včetně materiálu se sexuálním zneužíváním dětí, „budou z App Store odstraněny a zablokovány pro alternativní distribuci“, uvedla společnost.developer.apple.com+1

Rostoucí tlak

V lednu projekt Tech Transparency Project našel v App Store desítky aplikací pro generování nahoty pomocí AI. V dubnu následná zpráva zjistila, že návrhy vyhledávání a reklamy společnosti Apple uživatele k takovým aplikacím naváděly. V červenci úřady v San Franciscu nařídily společnosti Apple odstranit osm aplikací, informoval server 9to5Mac. Poté, co zpráva tvrdila, že Apple a Google tyto aplikace propagovaly, Apple sdělil serveru CNET, že odstranil 15 označených aplikací a varoval šest dalších vývojářů. Apple také čelil výzvám k odstranění aplikací X a Grok z App Store poté, co byl Grok použit k vytváření sexualizovaných obrázků žen a nezletilých.cnet.com+1

Tvrzení společnosti Apple o vymáhání

Apple uvádí, že loni zabránil více než 150 000 aplikacím s bezpečnostními problémy v přístupu k zákazníkům a zrušil více než 193 000 vývojářských účtů kvůli podvodům a zneužívání. Viní „škodlivé aktéry, v některých případech koordinované podvodné operace“, kteří skrývají škodlivý obsah až do schválení aplikace. „Neváháme odstranit aplikace a zrušit účty vývojářů, kteří za nimi stojí, pokud porušují tyto pokyny,“ napsal Apple.developer.apple.com