Η Meta αφαιρεί τον κώδικα αναγνώρισης προσώπου από την εφαρμογή έξυπνων γυαλιών μετά την αποκάλυψη του WIRED

Η Meta ↘ 0.31% αφαίρεσε αθόρυβα τον κώδικα αναγνώρισης προσώπου από την εφαρμογή τεχνητής νοημοσύνης για τα έξυπνα γυαλιά Ray-Ban, μετά από έρευνα του WIRED που αποκάλυψε την ύπαρξη της λειτουργίας, εγείροντας νέα ερωτήματα σχετικά με τις φιλοδοξίες της εταιρείας για παρακολούθηση και την προθυμία της να αναπτύξει βιομετρικά εργαλεία χωρίς δημόσια γνωστοποίηση.

Ο κώδικας, που ονομάστηκε εσωτερικά "NameTag", ανακαλύφθηκε από το WIRED μέσω ανάλυσης της εφαρμογής AI της Meta — λογισμικό που έχει ληφθεί περισσότερες από 50 εκατομμύρια φορές και είναι απαραίτητο για τη λειτουργία των έξυπνων γυαλιών Ray-Ban και Oakley της εταιρείας. Μέσα σε λίγες ημέρες από την έρευνα του WIRED, ο κώδικας εξαφανίστηκε από την τελευταία ενημέρωση της εφαρμογής, αλλά η Meta αρνήθηκε να εξηγήσει αν η λειτουργία ήταν πειραματική, τυχαία ή αν προοριζόταν για μελλοντική ανάπτυξη.wired+2

Τι θα μπορούσε να κάνει το NameTag

Σύμφωνα με το ρεπορτάζ του WIRED, το NameTag αποτελούνταν από τρία μοντέλα τεχνητής νοημοσύνης σχεδιασμένα να εντοπίζουν πρόσωπα, να τα περικόπτουν και να τα μετατρέπουν σε βιομετρικά "αποτυπώματα προσώπου" — αριθμητικές υπογραφές που αντιπροσωπεύουν τη μοναδική τοποθέτηση των χαρακτηριστικών του προσώπου ενός ατόμου. Όταν ενεργοποιούνταν, το σύστημα αντιστοίχιζε τα πρόσωπα που καταγράφονταν από τις κάμερες των γυαλιών με μια βάση δεδομένων αποθηκευμένη στο τηλέφωνο του χρήστη, μια βάση δεδομένων ρυθμισμένη να λαμβάνει ενημερώσεις από τους διακομιστές της Meta. Τα αναγνωρισμένα άτομα θα ενεργοποιούσαν ειδοποιήσεις, ενώ τα μη αναγνωρισμένα πρόσωπα θα καταγράφονταν και θα αποθηκεύονταν σε έναν φάκελο με την ένδειξη "εκκρεμή".eff+1

Το Electronic Frontier Foundation επιβεβαίωσε ανεξάρτητα την παρουσία του κώδικα μέσω της δικής του στατικής ανάλυσης. "Παρά τους δισεκατομμύρια λόγους για να μην το κάνει, η Meta φαίνεται να έχει δημιουργήσει τη δυνατότητα να μετατρέψει τους πελάτες της σε μια κατανεμημένη μηχανή παρακολούθησης", δήλωσε ο Cooper Quintin, ανώτερος τεχνολόγος δημόσιου συμφέροντος στο Threat Lab του EFF. Ένας άλλος ερευνητής διαπίστωσε ότι η χειροκίνητη προσθήκη ενός προσώπου στη βάση δεδομένων της εφαρμογής προκαλούσε στα γυαλιά να εντοπίζουν στη συνέχεια αυτό το πρόσωπο όταν εμφανιζόταν στο οπτικό τους πεδίο.thenews+1

Η μαχητική απάντηση της Meta

Τα στελέχη της Meta αντέδρασαν έντονα στο ρεπορτάζ. Ο Andy Stone, αντιπρόεδρος επικοινωνίας της Meta, χαρακτήρισε την ιστορία του WIRED "κάτι παραπάνω από πρόχειρο ρεπορτάζ" και "διανοητικά ανέντιμη", χαρακτηρίζοντάς την ως "καθαρό click bait που καθοδηγείται από υπεράσπιση συμφερόντων". Ο επικεφαλής τεχνολογίας της Meta, Andrew Bosworth, επανέλαβε την κριτική, αποκαλώντας την αναφορά "απίστευτα παραπλανητική".nypost+2

Ο εκπρόσωπος Ryan Daniels προσέφερε μια πιο μετρημένη δήλωση: "Έχουμε πει στο παρελθόν ότι εξερευνούμε αυτού του είδους τις λειτουργίες, και αυτό που βλέπετε είναι απλώς απόδειξη αυτής της εξερεύνησης. Τίποτα δεν έχει κυκλοφορήσει στους καταναλωτές και δεν έχει ληφθεί καμία τελική απόφαση για το τι θα γίνει εδώ, αν γίνει κάτι". Πρόσθεσε ότι η Meta "δεν χτίζει μια κεντρική βάση δεδομένων προσώπων".engadget+1

Ανησυχίες για την ιδιωτικότητα και ευρύτερο πλαίσιο

Οι ερευνητές ιδιωτικότητας που εξέτασαν τα ευρήματα του WIRED δήλωσαν ότι ο κώδικας φαινόταν λειτουργικός, όχι υπολειμματικός, με συγκεκριμένες κλήσεις API και δομές δεδομένων που συνάδουν με ενεργή ανάπτυξη. Το WIRED ανέφερε επίσης ότι ένα εσωτερικό σημείωμα της Meta συζητούσε την κυκλοφορία του NameTag κατά τη διάρκεια ενός "δυναμικού πολιτικού περιβάλλοντος", επειδή "οι ομάδες της κοινωνίας των πολιτών που θα περιμέναμε να μας επιτεθούν θα είχαν τους πόρους τους επικεντρωμένους σε άλλες ανησυχίες".techbuzz+1

Η ανακάλυψη προκάλεσε καταδίκη από οργανώσεις πολιτικών ελευθεριών, συμπεριλαμβανομένων της ACLU, της Fight for the Future και του Electronic Privacy Information Center, οι οποίες προειδοποίησαν ότι η λειτουργία θα μπορούσε να επιτρέψει σε stalkers και κακοποιητές να αναγνωρίζουν άτομα σε δημόσιους χώρους. Η Meta έκλεισε το σύστημα αναγνώρισης προσώπου του Facebook το 2021 και κατέβαλε 650 εκατομμύρια δολάρια για να διευθετήσει μια αγωγή για την ιδιωτικότητα των βιομετρικών δεδομένων — καθιστώντας την επανεμφάνιση παρόμοιας τεχνολογίας σε ένα φορετό προϊόν ακόμη πιο εντυπωσιακή.aclum+2

Το αν η αφαίρεση του κώδικα αντιπροσωπεύει μια γνήσια υποχώρηση ή μια προσωρινή απάντηση στον δημόσιο έλεγχο παραμένει ένα ανοιχτό ερώτημα στο οποίο η Meta έχει μέχρι στιγμής αρνηθεί να απαντήσει.