Meta po odhalení WIRED odstranila kód pro rozpoznávání obličejů z aplikace pro chytré brýle

Společnost Meta ↗ 0.43% potichu odstranila kód pro rozpoznávání obličejů ze své aplikace s umělou inteligencí pro chytré brýle Ray-Ban poté, co vyšetřování WIRED odhalilo existenci této funkce, což vyvolalo nové otázky ohledně ambicí společnosti v oblasti sledování a její ochoty nasadit biometrické nástroje bez veřejného oznámení.

Kód, interně nazvaný „NameTag“, objevil WIRED prostřednictvím analýzy aplikace AI od Mety – softwaru, který byl stažen více než 50milionkrát a je vyžadován pro provoz chytrých brýlí Ray-Ban a Oakley. Během několika dní od dotazu WIRED kód z nejnovější aktualizace aplikace zmizel, ale Meta odmítla vysvětlit, zda byla funkce experimentální, náhodná nebo určená pro budoucí nasazení.wired+2

Co mohl NameTag dělat

Podle zprávy WIRED se NameTag skládal ze tří modelů AI navržených k detekci obličejů, jejich oříznutí a převodu na biometrické „otisky obličeje“ – číselné podpisy představující jedinečné umístění rysů obličeje osoby. Po aktivaci by systém porovnal obličeje zachycené kamerami brýlí s databází uloženou v telefonu uživatele, databází nastavenou tak, aby přijímala aktualizace ze serverů Mety. Rozpoznaní jednotlivci by spustili oznámení; nerozpoznané obličeje by byly indexovány a uloženy ve složce označené „čekající“.eff+1

Electronic Frontier Foundation nezávisle potvrdila přítomnost kódu prostřednictvím vlastní statické analýzy. „Navzdory miliardám důvodů, proč to nedělat, se zdá, že Meta vytvořila kapacitu k tomu, aby své zákazníky proměnila v distribuovaný sledovací stroj,“ řekl Cooper Quintin, hlavní technolog pro veřejný zájem v Threat Lab organizace EFF. Další výzkumník zjistil, že ruční přidání obličeje do databáze aplikace způsobilo, že brýle následně tento obličej detekovaly, když se objevil v zorném poli.thenews+1

Bojovná reakce Mety

Vedoucí pracovníci Mety se proti zprávě důrazně ohradili. Andy Stone, viceprezident Mety pro komunikaci, označil příběh WIRED za „více než odfláknutou reportáž“ a „intelektuálně nepoctivý“, přičemž jej označil za „čistý clickbait řízený aktivismem“. Technologický ředitel Mety, Andrew Bosworth, kritiku zopakoval a zprávu označil za „neuvěřitelně zavádějící“.nypost+2

Mluvčí Ryan Daniels nabídl umírněnější prohlášení: „Již dříve jsme řekli, že zkoumáme tyto typy funkcí, a to, co vidíte, je jen důkazem tohoto zkoumání. Nic nebylo odesláno spotřebitelům a nebylo učiněno žádné konečné rozhodnutí o tom, co zde dělat, pokud vůbec něco.“ Dodal, že Meta „nebuduje centrální databázi obličejů“.engadget+1

Obavy o soukromí a širší souvislosti

Výzkumníci v oblasti soukromí, kteří zkoumali zjištění WIRED, uvedli, že kód vypadal funkčně, nikoli jako pozůstatek, s konkrétními voláními API a datovými strukturami konzistentními s aktivním vývojem. WIRED také uvedl, že interní memorandum Mety diskutovalo o spuštění NameTag během „dynamického politického prostředí“, protože „skupiny občanské společnosti, u nichž bychom očekávali, že na nás zaútočí, by měly své zdroje zaměřené na jiné obavy“.techbuzz+1

Objev vyvolal odsouzení ze strany organizací pro občanské svobody, včetně ACLU, Fight for the Future a Electronic Privacy Information Center, které varovaly, že funkce by mohla umožnit stalkerům a násilníkům identifikovat lidi na veřejnosti. Meta v roce 2021 ukončila svůj systém rozpoznávání obličejů na Facebooku a zaplatila 650 milionů dolarů za urovnání žaloby na biometrické soukromí – díky čemuž je opětovné objevení podobné technologie v nositelném produktu o to nápadnější.aclum+2

Zda odstranění kódu představuje skutečný ústup nebo dočasnou reakci na veřejnou kontrolu, zůstává otevřenou otázkou, na kterou Meta zatím odmítla odpovědět.