Η Meta διέγραψε λανθασμένα λογαριασμούς χρηστών μέσω AI, σύμφωνα με τους New York Times

Η Meta ↗ 0.17% χρησιμοποίησε αυτοματοποιημένα συστήματα για τη διαγραφή λογαριασμών στο Facebook και το Instagram, τους οποίους οι χρήστες είχαν χτίσει επί χρόνια, και όταν αυτοί οι χρήστες προσπάθησαν να ασκήσουν έφεση, οι υποθέσεις τους συχνά διεκπεραιώνονταν από μια άλλη τεχνητή νοημοσύνη αντί για κάποιον άνθρωπο αξιολογητή, σύμφωνα με έρευνα των New York Times που δημοσιεύθηκε τη Δευτέρα.

Η έκθεση διαπίστωσε ότι η Meta αποκατέστησε ορισμένους αποκλεισμένους λογαριασμούς, συμπεριλαμβανομένου ενός με σχεδόν ένα εκατομμύριο ακολούθους, μόνο αφού οι δημοσιογράφοι των Times παρενέβησαν για λογαριασμό των θιγόμενων χρηστών. Σε ορισμένες περιπτώσεις, η εταιρεία ενημέρωσε τους χρήστες ότι οι πληροφορίες τους θα «διαγράφονταν οριστικά» και ότι δεν ήταν δυνατή περαιτέρω επανεξέταση.techcrunch+2

Ένα μοτίβο αυτοματοποιημένης επιβολής

Η Meta δήλωσε στους Times ότι οι λογαριασμοί που εξετάστηκαν στο ρεπορτάζ αποκλείστηκαν από παλαιότερα συστήματα εποπτείας και όχι από τα πιο πρόσφατα εργαλεία τεχνητής νοημοσύνης της. Η εταιρεία ανέφερε ότι τα νεότερα αυτοματοποιημένα συστήματά της κάνουν 13 τοις εκατό λιγότερα λάθη και εντοπίζουν 10 τοις εκατό περισσότερες παραβιάσεις από τους ανθρώπους αξιολογητές.threads+1

Ωστόσο, για τους χρήστες που παγιδεύτηκαν στο σύστημα, αυτή η διάκριση προσφέρει ελάχιστη παρηγοριά. Επιχειρηματίες και δημιουργοί ανέφεραν ότι έχασαν λογαριασμούς χωρίς να τους εξηγηθεί ποιον συγκεκριμένο κανόνα παραβίασαν, ενώ διαπίστωσαν ότι οι εφέσεις ήταν κυκλικές, καθώς δρομολογούνταν πίσω σε αυτοματοποιημένες διαδικασίες αντί για ανθρώπινο προσωπικό ικανό να ασκήσει κρίση.aiweekly

Το πρόβλημα δεν είναι καινούργιο, αλλά φαίνεται να έχει ενταθεί. Τον Μάιο, χρήστες σε όλο τον κόσμο ανέφεραν ένα κύμα εσφαλμένων απενεργοποιήσεων στο Instagram και το Facebook. Τον Ιανουάριο, περισσότεροι από 50.000 χρήστες δήλωσαν ότι η Meta είχε κλείσει λανθασμένα τους λογαριασμούς τους λόγω κατηγοριών για «ειδεχθή» συμπεριφορά.reddit+2

Το Συμβούλιο Εποπτείας επισημαίνει «συστημικά» προβλήματα

Τα ευρήματα απηχούν προειδοποιήσεις που εκδόθηκαν εβδομάδες νωρίτερα από το ίδιο το Συμβούλιο Εποπτείας της Meta, το οποίο τον Ιούνιο ανέφερε ότι η διαδικασία απενεργοποίησης λογαριασμών της εταιρείας εγείρει «συστημικά ζητήματα ανθρωπίνων δικαιωμάτων» και «έλλειψη διαφάνειας και συνέπειας». Το συμβούλιο συνέστησε στη Meta να δημιουργήσει έναν πίνακα ελέγχου για τους χρήστες που θα δείχνει προηγούμενες παραβιάσεις, τους συγκεκριμένους κανόνες που παραβιάστηκαν και σαφείς επιλογές έφεσης, τίποτα από τα οποία δεν υφίσταται επί του παρόντος.mediapost+1

Το συμβούλιο κάλεσε επίσης τη Meta να αποκαλύψει τον ρόλο που παίζει η τεχνητή νοημοσύνη στην αξιολόγηση περιεχομένου και την επιβολή κυρώσεων, σημειώνοντας ότι οι χρήστες συχνά δεν έχουν ιδέα αν ένας άνθρωπος ή μια μηχανή έλαβε την απόφαση που διέγραψε την ψηφιακή τους παρουσία.techcrunch

Λιγότεροι άνθρωποι, περισσότερος αυτοματισμός

Η διαμάχη έρχεται σε μια στιγμή που η Meta έχει μειώσει δραστικά το ανθρώπινο δυναμικό της. Η εταιρεία απέλυσε 8.000 υπαλλήλους τον Μάιο και μετέθεσε άλλους 7.000 σε έργα τεχνητής νοημοσύνης, συνεχίζοντας έναν μετασχηματισμό που έχει αφήσει λιγότερους ανθρώπους διαθέσιμους για την επανεξέταση αποφάσεων εποπτείας. Για τους θιγόμενους χρήστες, το αποτέλεσμα είναι ένα σύστημα όπου οι μηχανές λαμβάνουν σημαντικές αποφάσεις και άλλες μηχανές εκδικάζουν τα παράπονα, χωρίς κανέναν άνθρωπο στη διαδικασία.nytimes+1