Η Apple αυστηροποιεί τους κανόνες του App Store για εφαρμογές τεχνητής νοημοσύνης που δημιουργούν γυμνό

Η Apple αναθεώρησε τις Οδηγίες Ελέγχου Εφαρμογών (App Review Guidelines) την Παρασκευή, 16 Οκτωβρίου. Η ενημέρωση καθιστά σαφές ότι οι εφαρμογές πρέπει να αποτρέπουν και να αφαιρούν ενεργά μη συναινετικό οικείο περιεχόμενο, συμπεριλαμβανομένων εικόνων που δημιουργούνται με εργαλεία τεχνητής νοημοσύνης. Η Apple αυστηροποίησε επίσης τους κανόνες της κατά των εφαρμογών που παραπλανούν τους χρήστες, περνώντας τον έλεγχο και αποκαλύπτοντας στη συνέχεια κρυφές λειτουργίες. Οι αλλαγές έρχονται μετά από αναφορές ενός έτους ότι εφαρμογές τεχνητής νοημοσύνης που δημιουργούν γυμνό (nudify apps) κατάφερναν να παρακάμψουν τη διαδικασία ελέγχου της Apple.

Τι άλλαξε

Η ανακοίνωση της Apple προς τους προγραμματιστές αναφέρει ότι οι απαιτήσεις μετριοπάθειας περιεχομένου βάσει της οδηγίας 1.2 "καλύπτουν πλέον ρητά το μη συναινετικό οικείο περιεχόμενο, συμπεριλαμβανομένου περιεχομένου που παράγεται με τη χρήση εργαλείων τεχνητής νοημοσύνης". Οι προγραμματιστές που δεν διαθέτουν επαρκείς δικλείδες ασφαλείας ή δεν διορθώνουν παραβιάσεις μετά από ειδοποίηση, κινδυνεύουν να παραβιάσουν τον Κώδικα Δεοντολογίας Προγραμματιστών και να χάσουν τη θέση τους στο App Store. Η αναθεωρημένη διατύπωση της οδηγίας 1.2 καλύπτει πλέον εφαρμογές που επιτρέπουν στους χρήστες να "δημιουργούν, παράγουν, ανεβάζουν, μοιράζονται ή συνεισφέρουν με άλλο τρόπο" περιεχόμενο, όπως ανέφερε το 9to5Mac.9to5mac.com+1

Η νέα οδηγία 2.5.19 αναφέρει ότι οι εφαρμογές δεν πρέπει να περιλαμβάνουν "κρυφές, ανενεργές ή μη τεκμηριωμένες λειτουργίες". Προσθέτει ότι η προσπάθεια απόκρυψης τέτοιων λειτουργιών στο δυαδικό αρχείο μιας εφαρμογής "μέσω απόκρυψης κώδικα ή άλλων μεθόδων" αποτελεί λόγο για την αφαίρεση της εφαρμογής και τον τερματισμό του λογαριασμού του προγραμματιστή, σύμφωνα με τις ενημερωμένες οδηγίες. Η Apple δηλώνει ότι ο κανόνας διευκρινίζει μια μακροχρόνια πολιτική που παλαιότερα υπαγόταν στην οδηγία 2.3.1. Το TECHi σημείωσε ότι η αναφορά στην απόκρυψη κώδικα δεν υπήρχε στην έκδοση των οδηγιών της 11ης Οκτωβρίου.developer.apple.com+2

Η Apple συνδέει τον κανόνα με εφαρμογές που "αποκαλύπτουν επιβλαβείς δυνατότητες, όπως η δημιουργία γυμνού, μόνο μετά την έγκριση", ανέφερε το MacRumors. Η Apple ενημέρωσε επίσης την Ενότητα 5. Εφαρμογές που διευκολύνουν την εμπορία ανθρώπων ή την εκμετάλλευση παιδιών, συμπεριλαμβανομένου υλικού σεξουαλικής κακοποίησης παιδιών, "θα αφαιρούνται από το App Store και θα αποκλείονται από εναλλακτική διανομή", δήλωσε η εταιρεία.developer.apple.com+1

Αυξανόμενη πίεση

Τον Ιανουάριο, το Tech Transparency Project εντόπισε δεκάδες εφαρμογές τεχνητής νοημοσύνης που δημιουργούν γυμνό στο App Store. Τον Απρίλιο, μια επακόλουθη έκθεση διαπίστωσε ότι οι προτάσεις αναζήτησης και οι διαφημίσεις της Apple κατηύθυναν τους χρήστες προς τέτοιες εφαρμογές. Τον Ιούλιο, αξιωματούχοι του Σαν Φρανσίσκο διέταξαν την Apple να αφαιρέσει οκτώ εφαρμογές, ανέφερε το 9to5Mac. Μετά από αναφορά που υποστήριζε ότι η Apple και η Google προωθούσαν αυτές τις εφαρμογές, η Apple δήλωσε στο CNET ότι είχε αφαιρέσει 15 επισημασμένες εφαρμογές και είχε προειδοποιήσει έξι άλλους προγραμματιστές. Η Apple αντιμετώπισε επίσης εκκλήσεις για απόσυρση του X και του Grok από το App Store, αφού το Grok χρησιμοποιήθηκε για τη δημιουργία σεξουαλικοποιημένων εικόνων γυναικών και ανηλίκων.cnet.com+1

Οι ισχυρισμοί της Apple για την επιβολή των κανόνων

Η Apple δηλώνει ότι απέτρεψε περισσότερες από 150.000 εφαρμογές με ζητήματα ασφαλείας από το να φτάσουν στους πελάτες πέρυσι και τερμάτισε περισσότερους από 193.000 λογαριασμούς προγραμματιστών λόγω απάτης και κατάχρησης. Επιρρίπτει την ευθύνη σε "κακόβουλους δρώντες, σε ορισμένες περιπτώσεις συντονισμένες επιχειρήσεις απάτης", που κρύβουν επιβλαβές περιεχόμενο μέχρι να εγκριθεί μια εφαρμογή. "Δεν διστάζουμε να αφαιρούμε εφαρμογές και να τερματίζουμε τους προγραμματιστές που βρίσκονται πίσω από αυτές, όταν παραβιάζουν αυτές τις οδηγίες", έγραψε η Apple.developer.apple.com