Το Συμβούλιο Εποπτείας της Meta διατάζει την αφαίρεση βίντεο deepfake και ζητά αλλαγές πολιτικής

Το Συμβούλιο Εποπτείας της Meta ↘ 4.90% ανέτρεψε την Τρίτη την απόφαση της εταιρείας να διατηρήσει ένα βίντεο στο Instagram, το οποίο φέρεται να είναι σεξουαλικοποιημένο και δημιουργημένο από τεχνητή νοημοσύνη, διατάσσοντας την αφαίρεσή του και καλώντας τη Meta να ενισχύσει την προστασία για μη δημόσια πρόσωπα που στοχοποιούνται από οικείο υλικό deepfake.oversightboard+1

Το Συμβούλιο κρίνει ότι η υποδυόμενη χρήση τεχνητής νοημοσύνης είναι εξ ορισμού μη συναινετική

Η απόφαση, που δημοσιεύθηκε στις 23 Ιουνίου, προέκυψε από μια υπόθεση στην οποία ένας χρήστης ανέφερε ότι ένα βίντεο που δημιουργήθηκε από τεχνητή νοημοσύνη και υποδυόταν μια γυναίκα είχε αναρτηθεί στο Instagram χωρίς τη συγκατάθεση του απεικονιζόμενου προσώπου, «βλάπτοντας τη φήμη του». Η Meta είχε αρχικά αποφασίσει να διατηρήσει το περιεχόμενο, αλλά το Συμβούλιο διαπίστωσε ότι η ανάρτηση παραβίαζε την πολιτική της εταιρείας για τη Σεξουαλική Εκμετάλλευση Ενηλίκων.oversightboard+1

Στην απόφασή του, το Συμβούλιο κατέληξε στο συμπέρασμα ότι η σεξουαλικοποιημένη υποδυόμενη χρήση τεχνητής νοημοσύνης για την αναπαράσταση πραγματικών προσώπων πρέπει να αντιμετωπίζεται εξ ορισμού ως μη συναινετική και να προστεθεί στα σήματα που χρησιμοποιεί η Meta για να διαπιστώσει την έλλειψη συναίνεσης. Το Συμβούλιο συνέστησε στη Meta να προσθέσει ένα νέο σήμα στην πολιτική της για τη Σεξουαλική Εκμετάλλευση Ενηλίκων που να καλύπτει ειδικά τη σεξουαλικοποιημένη υποδυόμενη χρήση τεχνητής νοημοσύνης για την αναπαράσταση πραγματικών προσώπων.mlex+1

Συστάσεις για καθολική πρόσβαση στις αναφορές

Το Συμβούλιο εξέδωσε αρκετές επιπλέον συστάσεις. Κάλεσε τη Meta να επιτρέψει στους χρήστες να ορίζουν «συνδεδεμένους λογαριασμούς» — έμπιστους φίλους, μέλη της οικογένειας ή συνεργάτες — οι οποίοι μπορούν να αναφέρουν πιθανές παραβιάσεις που αφορούν μη συναινετικό οικείο υλικό για λογαριασμό τους. Συνέστησε επίσης στη Meta να δημιουργήσει μια ξεχωριστή κατηγορία αναφοράς για τη σεξουαλικοποιημένη υποδυόμενη χρήση τεχνητής νοημοσύνης, διακριτή από τις υπάρχουσες κατηγορίες όπως η «παρενόχληση» ή το «γυμνό», και να καταστήσει αυτές τις φόρμες αναφοράς διαθέσιμες παγκοσμίως.oversightboard

Επί του παρόντος, οι εξειδικευμένες φόρμες αναφοράς για οικείο υλικό deepfake είναι διαθέσιμες μόνο σε χρήστες σε ορισμένες δικαιοδοσίες, συμπεριλαμβανομένου του Τέξας και της Φλόριντα. Το Συμβούλιο πίεσε ώστε όλοι οι χρήστες παγκοσμίως να έχουν πρόσβαση σε αυτά τα εργαλεία, σημειώνοντας ότι τα μη δημόσια πρόσωπα ειδικότερα «συχνά επωμίζονται το βάρος της αυτοαναφοράς».mlex

Ένα αυξανόμενο πρόβλημα που πλήττει δυσανάλογα τις γυναίκες

Το Συμβούλιο επανέλαβε επίσης προηγούμενες συστάσεις ώστε η Meta να αντικαταστήσει τον όρο «υποτιμητικό σεξουαλικοποιημένο photoshop» στις πολιτικές της με γλώσσα που αναφέρεται σε «μη συναινετικά» επεξεργασμένα μέσα, και να εφαρμόσει σε μεγάλη κλίμακα διαπιστευτήρια περιεχομένου από τον Συνασπισμό για την Προέλευση και την Αυθεντικότητα του Περιεχομένου (Coalition for Content Provenance and Authenticity). Ο οργανισμός ψηφιακών δικαιωμάτων WITNESS δήλωσε ότι η απόφαση «αντικατοπτρίζει βασικές ανησυχίες σχετικά με τη σεξουαλικοποιημένη υποδυόμενη χρήση τεχνητής νοημοσύνης», επιβεβαιώνοντας ότι η συναίνεση πρέπει να τεθεί στο επίκεντρο του συντονισμού περιεχομένου σε αυτόν τον τομέα.witness+1

Η απόφαση ακολουθεί την ανακοίνωση του Συμβουλίου τον Φεβρουάριο ότι θα αναλάβει την υπόθεση, και βασίζεται σε μια απόφαση του Ιουλίου 2024 στην οποία το Συμβούλιο ανέφερε ότι οι πολιτικές της Meta για τα deepfake χρειάζονταν επικαιροποίηση. Το Συμβούλιο έχει προειδοποιήσει ότι οι εξελίξεις στα εργαλεία τεχνητής νοημοσύνης έχουν οδηγήσει σε πολλαπλασιασμό του μη συναινετικού σεξουαλικοποιημένου περιεχομένου που βλάπτει δυσανάλογα τις γυναίκες και τα κορίτσια.kark+1