Apple skärper reglerna i App Store mot AI-nakenbilder

Apple reviderade sina riktlinjer för appgranskning fredagen den 16 oktober. Uppdateringen klargör att appar aktivt måste förhindra och ta bort intimt material utan samtycke, inklusive bilder skapade med AI-verktyg. Apple har även skärpt reglerna mot appar som använder sig av vilseledande metoder för att dölja funktioner fram till efter godkännande. Ändringarna kommer efter ett år av rapporter om att AI-baserade appar för att skapa nakenbilder har tagit sig förbi Apples granskningsprocess.

Vad har ändrats

Apples meddelande till utvecklare anger att kraven på innehållsmoderering enligt riktlinje 1.2 nu uttryckligen omfattar intimt material utan samtycke, inklusive material genererat med AI-verktyg. Utvecklare som saknar tillräckliga skyddsåtgärder, eller som inte åtgärdar överträdelser efter varning, riskerar att bryta mot utvecklarnas uppförandekod och förlora sin plats i App Store. Den reviderade formuleringen i 1.2 omfattar nu appar som låter användare skapa, generera, ladda upp, dela eller på annat sätt bidra med innehåll, rapporterade 9to5Mac.9to5mac.com+1

Den nya riktlinjen 2.5.19 anger att appar inte får innehålla dolda, vilande eller odokumenterade funktioner. Den tillägger att försök att dölja sådana funktioner i en app-binärfil genom kodobfuskering eller andra metoder utgör grund för att ta bort appen och avsluta utvecklarens konto, enligt de uppdaterade riktlinjerna. Apple säger att regeln klargör en sedan länge etablerad policy som tidigare låg under riktlinje 2.3.1. TECHi noterade att referensen till kodobfuskering inte fanns med i versionen av riktlinjerna från den 11 oktober.developer.apple.com+2

Apple kopplar regeln till appar som endast avslöjar skadliga funktioner, såsom nakenbildsgenerering, efter godkännande, rapporterade MacRumors. Apple uppdaterade även avsnitt 5. Appar som underlättar människohandel eller utnyttjande av barn, inklusive material föreställande sexuella övergrepp mot barn, kommer att tas bort från App Store och blockeras från alternativ distribution, uppgav företaget.developer.apple.com+1

Ökat tryck

I januari fann Tech Transparency Project dussintals AI-appar för nakenbilder i App Store. I april visade en uppföljande rapport att Apples sökförslag och annonser styrde användare mot sådana appar. I juli beordrade myndigheter i San Francisco Apple att ta bort åtta appar, rapporterade 9to5Mac. Efter en rapport som hävdade att Apple och Google marknadsförde dessa appar, meddelade Apple till CNET att de tagit bort 15 flaggade appar och varnat sex andra utvecklare. Apple har även mött krav på att dra in X och Grok från App Store efter att Grok använts för att skapa sexualiserade bilder av kvinnor och minderåriga.cnet.com+1

Apples efterlevnadskrav

Apple uppger att de stoppade över 150 000 appar med säkerhetsproblem från att nå kunder förra året och avslutade över 193 000 utvecklarkonton för bedrägeri och missbruk. De skyller på illasinnade aktörer, i vissa fall koordinerade bedrägeriverksamheter, som döljer skadligt innehåll tills efter att en app har godkänts. Vi tvekar inte att ta bort appar och avsluta utvecklarna bakom dem när de bryter mot dessa riktlinjer, skrev Apple.developer.apple.com