Meta entfernt Gesichtserkennungs-Code aus Smart-Glasses-App nach WIRED-Enthüllung

Meta hat den Code zur Gesichtserkennung aus seiner Begleit-App für Smart Glasses entfernt, nur wenige Tage nachdem eine WIRED-Recherche die versteckte „NameTag“-Funktion aufgedeckt hatte.techbuzz+1
Der Code konnte Gesichter, die von Ray-Ban-Smart-Glasses erfasst wurden, in biometrische Gesichtsprofile umwandeln und mit einer auf dem Telefon gespeicherten Datenbank abgleichen, wie die EFF bestätigte.eff+1
Meta bezeichnete die Berichterstattung als „intellektuell unehrlich“, hat jedoch nicht erklärt, ob es sich bei der Funktion um ein Experiment oder eine geplante zukünftige Veröffentlichung handelte.engadget+1

Meta hat stillschweigend den Code zur Gesichtserkennung aus seiner KI-Begleit-App für Ray-Ban-Smart-Glasses entfernt, nachdem eine Untersuchung von WIRED die Existenz der Funktion aufgedeckt hatte. Dies wirft neue Fragen über die Überwachungsambitionen des Unternehmens und seine Bereitschaft auf, biometrische Werkzeuge ohne öffentliche Offenlegung einzusetzen.

Der intern als „NameTag“ bezeichnete Code wurde von WIRED durch eine Analyse der KI-App von Meta entdeckt – einer Software, die mehr als 50 Millionen Mal heruntergeladen wurde und für den Betrieb der Ray-Ban- und Oakley-Smart-Glasses des Unternehmens erforderlich ist. Innerhalb weniger Tage nach der Anfrage von WIRED verschwand der Code aus dem neuesten App-Update, doch Meta hat es abgelehnt zu erklären, ob die Funktion experimentell, versehentlich oder für einen zukünftigen Einsatz gedacht war.wired+2

Was NameTag tun konnte

Laut dem Bericht von WIRED bestand NameTag aus drei KI-Modellen, die darauf ausgelegt waren, Gesichter zu erkennen, zuzuschneiden und in biometrische „Gesichtsprofile“ umzuwandeln – numerische Signaturen, die die einzigartige Positionierung der Gesichtszüge einer Person darstellen. Bei Aktivierung würde das System die von den Kameras der Brille erfassten Gesichter mit einer auf dem Telefon des Trägers gespeicherten Datenbank abgleichen, die so eingerichtet war, dass sie Updates von Metas Servern empfängt. Erkannte Personen würden Benachrichtigungen auslösen; nicht erkannte Gesichter würden indexiert und in einem Ordner namens „ausstehend“ gespeichert.eff+1

Die Electronic Frontier Foundation bestätigte die Präsenz des Codes unabhängig durch eine eigene statische Analyse. „Trotz der Milliarden Gründe, es nicht zu tun, scheint Meta die Fähigkeit geschaffen zu haben, seine Kunden in eine verteilte Überwachungsmaschine zu verwandeln“, sagte Cooper Quintin, ein leitender Technologe für öffentliches Interesse beim Threat Lab der EFF. Ein anderer Forscher fand heraus, dass das manuelle Hinzufügen eines Gesichts zur Datenbank der App dazu führte, dass die Brille dieses Gesicht anschließend erkannte, wenn es ins Sichtfeld kam.thenews+1

Metas kämpferische Reaktion

Meta-Führungskräfte wehrten sich energisch gegen die Berichterstattung. Andy Stone, Metas Vizepräsident für Kommunikation, nannte die Geschichte von WIRED „mehr als schlampige Berichterstattung“ und „intellektuell unehrlich“ und bezeichnete sie als „reines, interessengeleitetes Clickbait“. Metas Chief Technology Officer, Andrew Bosworth, schloss sich der Kritik an und nannte den Bericht „unglaublich irreführend“.nypost+2

Sprecher Ryan Daniels gab eine gemäßigtere Erklärung ab: „Wir haben bereits gesagt, dass wir diese Art von Funktionen erforschen, und was Sie sehen, ist nur ein Beweis für diese Erforschung. Nichts wurde an Verbraucher ausgeliefert und es wurde keine endgültige Entscheidung darüber getroffen, was hier zu tun ist, falls überhaupt etwas getan wird.“ Er fügte hinzu, dass Meta „keine zentrale Gesichtsdatenbank aufbaut.“engadget+1

Datenschutzbedenken und breiterer Kontext

Datenschutzforscher, die die Ergebnisse von WIRED untersuchten, sagten, der Code wirke funktional und nicht rudimentär, mit spezifischen API-Aufrufen und Datenstrukturen, die mit einer aktiven Entwicklung übereinstimmen. WIRED berichtete auch, dass ein internes Meta-Memo die Einführung von NameTag in einem „dynamischen politischen Umfeld“ diskutierte, weil „zivilgesellschaftliche Gruppen, von denen wir erwarten würden, dass sie uns angreifen, ihre Ressourcen auf andere Anliegen konzentriert hätten“.techbuzz+1

Die Entdeckung löste Verurteilungen von Bürgerrechtsorganisationen wie der ACLU, Fight for the Future und dem Electronic Privacy Information Center aus, die davor warnten, dass die Funktion es Stalkern und Missbrauchstätern ermöglichen könnte, Menschen in der Öffentlichkeit zu identifizieren. Meta schaltete sein Facebook-Gesichtserkennungssystem im Jahr 2021 ab und zahlte 650 Millionen Dollar zur Beilegung einer Klage wegen biometrischer Privatsphäre – was das Wiederauftauchen ähnlicher Technologie in einem tragbaren Produkt umso auffälliger macht.aclum+2

Ob das Entfernen des Codes einen echten Rückzug oder eine vorübergehende Reaktion auf die öffentliche Prüfung darstellt, bleibt eine offene Frage, die Meta bisher nicht beantwortet hat.

Quellen (39)