Apple verschärft App Store Regeln gegen KI-Nacktbild-Apps

Apple hat am Freitag, den 16. Oktober, seine App-Review-Richtlinien überarbeitet. Das Update stellt klar, dass Apps aktiv nicht einvernehmliche intime Bilder verhindern und entfernen müssen, einschließlich solcher, die mit KI-Tools erstellt wurden. Apple hat zudem die Regeln gegen Apps verschärft, die nach der Prüfung versteckte Funktionen freischalten. Die Änderungen folgen auf ein Jahr voller Berichte, dass KI-basierte Nacktbild-Apps den Prüfungsprozess von Apple umgingen.

Was hat sich geändert

In der Ankündigung an Entwickler erklärt Apple, dass die Anforderungen an die Inhaltsmoderation gemäß Richtlinie 1.2 nun explizit nicht einvernehmliche intime Bilder abdecken, einschließlich solcher, die mit KI-Tools generiert wurden. Entwickler, die keine angemessenen Schutzmaßnahmen ergreifen oder Verstöße nach einer Benachrichtigung nicht beheben, riskieren einen Verstoß gegen den Verhaltenskodex für Entwickler und den Verlust ihres Platzes im App Store. Die überarbeitete Formulierung von 1.2 deckt nun Apps ab, die es Benutzern ermöglichen, Inhalte zu erstellen, zu generieren, hochzuladen, zu teilen oder anderweitig dazu beizutragen, berichtete 9to5Mac.9to5mac.com+1

Die neue Richtlinie 2.5.19 besagt, dass Apps keine versteckten, ruhenden oder nicht dokumentierten Funktionen enthalten dürfen. Sie fügt hinzu, dass der Versuch, solche Funktionen in einer App-Binärdatei durch Code-Obfuskation oder andere Methoden zu verbergen, ein Grund für die Entfernung der App und die Kündigung des Entwicklerkontos ist, so die aktualisierten Richtlinien. Apple gibt an, dass die Regel eine langjährige Richtlinie klärt, die zuvor unter 2.3.1 zu finden war. TECHi merkte an, dass der Verweis auf Code-Obfuskation in der Version der Richtlinien vom 11. Oktober noch nicht enthalten war.developer.apple.com+2

Apple verknüpft die Regel mit Apps, die schädliche Funktionen, wie etwa die Erstellung von Nacktbildern, erst nach der Genehmigung offenbaren, berichtete MacRumors. Apple aktualisierte auch Abschnitt 5. Apps, die Menschenhandel oder die Ausbeutung von Kindern erleichtern, einschließlich Material über sexuellen Missbrauch von Kindern, werden aus dem App Store entfernt und von alternativen Vertriebswegen blockiert, so das Unternehmen.developer.apple.com+1

Wachsender Druck

Im Januar fand das Tech Transparency Project Dutzende KI-Nacktbild-Apps im App Store. Im April ergab ein Folgebericht, dass Apples Suchvorschläge und Anzeigen Benutzer zu solchen Apps führten. Im Juli ordneten Behörden in San Francisco an, dass Apple acht Apps entfernen müsse, berichtete 9to5Mac. Nachdem ein Bericht behauptete, Apple und Google würden diese Apps bewerben, teilte Apple CNET mit, dass 15 markierte Apps entfernt und sechs weitere Entwickler verwarnt wurden. Apple sah sich zudem Forderungen ausgesetzt, X und Grok aus dem App Store zu entfernen, nachdem Grok zur Erstellung sexualisierter Bilder von Frauen und Minderjährigen verwendet wurde.cnet.com+1

Apples Durchsetzungsanspruch

Apple gibt an, im vergangenen Jahr mehr als 150.000 Apps mit Sicherheitsproblemen daran gehindert zu haben, Kunden zu erreichen, und mehr als 193.000 Entwicklerkonten wegen Betrugs und Missbrauchs gekündigt zu haben. Das Unternehmen macht böswillige Akteure, in einigen Fällen koordinierte Betrugsoperationen, dafür verantwortlich, die schädliche Inhalte verbergen, bis eine App genehmigt ist. Wir zögern nicht, Apps zu entfernen und die dahinterstehenden Entwickler zu kündigen, wenn sie gegen diese Richtlinien verstoßen, schrieb Apple.developer.apple.com