Meta poistaa kasvojentunnistuskoodin älylasisovelluksestaan WIREDin paljastuksen jälkeen

Meta ↘ 0.04% on hiljaa poistanut kasvojentunnistuskoodin Ray-Ban-älylasien tekoälysovelluksestaan sen jälkeen, kun WIREDin tutkinta paljasti ominaisuuden olemassaolon. Tämä herättää uusia kysymyksiä yhtiön valvontapyrkimyksistä ja halukkuudesta ottaa käyttöön biometrisiä työkaluja ilman julkista tiedottamista.

WIRED löysi koodin, jota kutsuttiin sisäisesti nimellä "NameTag", analysoimalla Metan tekoälysovellusta – ohjelmistoa, joka on ladattu yli 50 miljoonaa kertaa ja jota tarvitaan yhtiön Ray-Ban- ja Oakley-älylasien käyttämiseen. Muutaman päivän kuluessa WIREDin tiedustelusta koodi katosi sovelluksen uusimmasta päivityksestä, mutta Meta on kieltäytynyt selittämästä, oliko ominaisuus kokeellinen, vahinko vai tarkoitettu tulevaisuuden käyttöönottoon.wired+2

Mitä NameTag pystyi tekemään

WIREDin raportin mukaan NameTag koostui kolmesta tekoälymallista, jotka oli suunniteltu tunnistamaan kasvot, rajaamaan ne ja muuntamaan ne biometrisiksi "kasvotunnisteiksi" – numeerisiksi allekirjoituksiksi, jotka edustavat henkilön kasvonpiirteiden ainutlaatuista sijoittelua. Aktivoituna järjestelmä vertasi lasien kameroiden tallentamia kasvoja käyttäjän puhelimeen tallennettuun tietokantaan, joka oli asetettu vastaanottamaan päivityksiä Metan palvelimilta. Tunnistetut henkilöt laukaisivat ilmoituksia; tunnistamattomat kasvot indeksoitiin ja tallennettiin kansioon, jonka nimenä oli "pending" (odottaa).eff+1

Electronic Frontier Foundation vahvisti koodin läsnäolon itsenäisesti oman staattisen analyysinsa avulla. "Huolimatta miljardeista syistä olla tekemättä niin, Meta näyttää luoneen kyvyn muuttaa asiakkaansa hajautetuksi valvontakoneeksi", sanoi Cooper Quintin, EFF:n Threat Labin vanhempi yleisen edun teknologia-asiantuntija. Toinen tutkija havaitsi, että kasvojen lisääminen manuaalisesti sovelluksen tietokantaan sai lasit tunnistamaan kyseiset kasvot myöhemmin, kun ne tulivat näkyviin.thenews+1

Metan hyökkäävä vastaus

Metan johtajat vastustivat raportointia voimakkaasti. Metan viestintäjohtaja Andy Stone kutsui WIREDin juttua "enemmän kuin huonoksi raportoinniksi" ja "älyllisesti epärehelliseksi", leimaten sen "puhtaaksi klikkiotsikoilla kalasteluksi". Metan teknologiajohtaja Andrew Bosworth yhtyi kritiikkiin kutsuen raporttia "uskomattoman harhaanjohtavaksi".nypost+2

Tiedottaja Ryan Daniels tarjosi maltillisemman lausunnon: "Olemme aiemmin sanoneet, että tutkimme tämän tyyppisiä ominaisuuksia, ja näkemänne on vain todiste tästä tutkimuksesta. Mitään ei ole toimitettu kuluttajille, eikä lopullista päätöstä ole tehty siitä, mitä tässä tehdään, jos mitään". Hän lisäsi, ettei Meta "rakenna keskitettyä kasvotietokantaa".engadget+1

Yksityisyyden suojaa koskevat huolet ja laajempi konteksti

WIREDin havaintoja tutkineet yksityisyyden suojan tutkijat sanoivat, että koodi vaikutti toimivalta, ei jäänteeltä, ja siinä oli erityisiä API-kutsuja ja tietorakenteita, jotka olivat yhdenmukaisia aktiivisen kehityksen kanssa. WIRED raportoi myös, että Metan sisäisessä muistiossa keskusteltiin NameTagin julkaisemisesta "dynaamisessa poliittisessa ympäristössä", koska "kansalaisyhteiskunnan ryhmien, joiden odottaisimme hyökkäävän meitä vastaan, resurssit olisivat keskittyneet muihin huolenaiheisiin".techbuzz+1

Löytö herätti tuomion kansalaisoikeusjärjestöiltä, kuten ACLU:lta, Fight for the Futurelta ja Electronic Privacy Information Centeriltä, jotka varoittivat, että ominaisuus voisi mahdollistaa vainoajien ja väärinkäyttäjien tunnistaa ihmisiä julkisesti. Meta sulki Facebookin kasvojentunnistusjärjestelmänsä vuonna 2021 ja maksoi 650 miljoonaa dollaria biometrisen yksityisyyden suojaa koskevan oikeusjutun sovittelemiseksi – mikä tekee vastaavan teknologian uudelleenilmestymisestä puettavassa tuotteessa entistäkin silmiinpistävämpää.aclum+2

Se, edustaako koodin poistaminen aitoa perääntymistä vai väliaikaista vastausta julkiseen tarkasteluun, on edelleen avoin kysymys, johon Meta on tähän asti kieltäytynyt vastaamasta.