Apple strammer inn App Store-regler for AI-apper

Apple reviderte sine retningslinjer for app-gjennomgang fredag 16. oktober. Oppdateringen klargjør at apper aktivt må forhindre og fjerne ikke-samtykkebasert intimt innhold, inkludert bilder laget med AI-verktøy. Apple har også strammet inn reglene mot apper som lurer brukere ved å skjule funksjoner til etter godkjenning. Endringene kommer etter et år med rapporter om at AI-baserte apper for nakenbilder har sneket seg forbi Apples kontrollprosess.

Hva er endret

Apples kunngjøring til utviklere sier at kravene til innholdsmoderering under retningslinje 1.2 nå eksplisitt dekker ikke-samtykkebasert intimt innhold, inkludert innhold generert ved hjelp av AI-verktøy. Utviklere som mangler tilstrekkelige sikkerhetstiltak, eller som ikke retter opp brudd etter varsel, risikerer å bryte utviklerens etiske retningslinjer og miste plassen sin i App Store. Den reviderte ordlyden i 1.2 dekker nå apper som lar brukere opprette, generere, laste opp, dele eller på annen måte bidra med innhold, rapporterte 9to5Mac.9to5mac.com+1

Den nye retningslinjen 2.5.19 sier at apper ikke må inneholde skjulte, sovende eller udokumenterte funksjoner. Den legger til at forsøk på å skjule slike funksjoner i en app-binærfil gjennom kodeobfuskering eller andre metoder er grunnlag for å fjerne appen og terminere utviklerens konto, ifølge de oppdaterte retningslinjene. Apple sier at regelen klargjør en langvarig policy som tidligere lå under retningslinje 2.3.1. TECHi bemerket at referansen til kodeobfuskering ikke dukket opp i versjonen av retningslinjene fra 11. oktober.developer.apple.com+2

Apple knytter regelen til apper som kun avslører skadelige funksjoner, som for eksempel nakenbildegenerering, etter godkjenning, rapporterte MacRumors. Apple oppdaterte også seksjon 5. Apper som legger til rette for menneskehandel eller utnyttelse av barn, inkludert materiale med seksuelle overgrep mot barn, vil bli fjernet fra App Store og blokkert fra alternativ distribusjon, opplyste selskapet.developer.apple.com+1

Økende press

I januar fant Tech Transparency Project dusinvis av AI-apper for nakenbilder i App Store. I april fant en oppfølgingsrapport at Apples søkeforslag og annonser styrte brukere mot slike apper. I juli beordret myndighetene i San Francisco Apple til å fjerne åtte apper, rapporterte 9to5Mac. Etter en rapport som hevdet at Apple og Google promoterte disse appene, fortalte Apple til CNET at de hadde fjernet 15 flaggede apper og advart seks andre utviklere. Apple har også møtt krav om å fjerne X og Grok fra App Store etter at Grok ble brukt til å lage seksualiserte bilder av kvinner og mindreårige.cnet.com+1

Apples håndheving

Apple sier at de stoppet over 150 000 apper med sikkerhetsproblemer fra å nå kunder i fjor, og terminerte over 193 000 utviklerkontoer for svindel og misbruk. De gir skylden til ondsinnede aktører, i noen tilfeller koordinerte svindeloperasjoner, som skjuler skadelig innhold til etter at en app er godkjent. Vi nøler ikke med å fjerne apper og terminere utviklerne bak dem når de bryter disse retningslinjene, skrev Apple.developer.apple.com