Meta fjarlægir kóða fyrir andlitsgreiningu úr snjallgleraugnaforriti eftir afhjúpun WIRED

Meta ↗ 0.43% hefur hljóðlega fjarlægt kóða fyrir andlitsgreiningu úr gervigreindarforriti sínu fyrir Ray-Ban snjallgleraugu eftir að rannsókn WIRED afhjúpaði tilvist eiginleikans, sem vekur nýjar spurningar um eftirlitsmetnað fyrirtækisins og vilja þess til að beita líffræðilegum tækjum án opinberrar upplýsingagjafar.

Kóðinn, sem innanhúss var kallaður „NameTag“, fannst af WIRED með greiningu á gervigreindarforriti Meta — hugbúnaði sem hefur verið hlaðið niður meira en 50 milljón sinnum og er nauðsynlegur til að stjórna Ray-Ban og Oakley snjallgleraugum fyrirtækisins. Innan nokkurra daga frá fyrirspurn WIRED hvarf kóðinn úr nýjustu uppfærslu forritsins, en Meta hefur neitað að útskýra hvort eiginleikinn hafi verið tilraunakenndur, slys eða ætlaður til framtíðarnotkunar.wired+2

Hvað NameTag gat gert

Samkvæmt fréttaflutningi WIRED samanstóð NameTag af þremur gervigreindarlíkönum sem hönnuð voru til að greina andlit, klippa þau út og breyta þeim í líffræðileg „andlitsmót“ — töluleg einkenni sem tákna einstaka staðsetningu andlitseinkenna manneskju. Þegar kerfið var virkjað bar það saman andlit sem myndavélar gleraugnanna náðu við gagnagrunn sem geymdur var í síma notandans, gagnagrunn sem var stilltur á að taka við uppfærslum frá netþjónum Meta. Þeir sem voru greindir myndu kalla fram tilkynningar; óþekkt andlit voru skráð og geymd í möppu merktri „í bið“.eff+1

Electronic Frontier Foundation staðfesti tilvist kóðans sjálfstætt með sinni eigin kyrrstöðugreiningu. „Þrátt fyrir milljarða ástæðna til að gera það ekki, virðist Meta hafa skapað getu til að breyta viðskiptavinum sínum í dreifða eftirlitsvél,“ sagði Cooper Quintin, yfirtæknifræðingur hjá Threat Lab hjá EFF. Annar rannsakandi komst að því að það að bæta andliti handvirkt við gagnagrunn forritsins varð til þess að gleraugun greindu andlitið í kjölfarið þegar það kom í sjónmáli.thenews+1

Andsvör Meta

Stjórnendur Meta mótmæltu fréttaflutningnum kröftuglega. Andy Stone, varaforseti samskiptasviðs Meta, kallaði frétt WIRED „meira en lélega blaðamennsku“ og „vitsmunalega óheiðarlega“ og stimplaði hana sem „hreinan smellibeitu-áróður“. Tæknistjóri Meta, Andrew Bosworth, tók undir gagnrýnina og kallaði skýrsluna „ótrúlega villandi“.nypost+2

Talsmaðurinn Ryan Daniels gaf út varfærnari yfirlýsingu: „Við höfum áður sagt að við séum að kanna þessar tegundir eiginleika, og það sem þið sjáið er bara sönnun þessarar könnunar. Ekkert hefur verið sent til neytenda og engin endanleg ákvörðun hefur verið tekin um hvað eigi að gera hér, ef eitthvað.“ Hann bætti við að Meta sé „ekki að byggja upp miðlægan andlitsgagnagrunn.“engadget+1

Áhyggjur af friðhelgi einkalífs og víðara samhengi

Rannsakendur á sviði friðhelgi einkalífs sem skoðuðu niðurstöður WIRED sögðu að kóðinn virtist virkur, ekki leifar, með sérstökum API-köllum og gagnaskipan sem samræmdist virkri þróun. WIRED greindi einnig frá því að innra minnisblað hjá Meta ræddi um að setja NameTag á markað í „kviku pólitísku umhverfi“ vegna þess að „hópar í borgaralegu samfélagi sem við myndum búast við að myndu ráðast á okkur myndu hafa auðlindir sínar einbeittar að öðrum áhyggjum.“techbuzz+1

Uppgötvunin vakti fordæmingu frá borgaralegum réttindasamtökum, þar á meðal ACLU, Fight for the Future og Electronic Privacy Information Center, sem vöruðu við því að eiginleikinn gæti gert eltingahrellum og ofbeldismönnum kleift að bera kennsl á fólk á almannafæri. Meta lokaði andlitsgreiningarkerfi sínu á Facebook árið 2021 og greiddi 650 milljónir dollara til að ljúka málsókn um líffræðilega friðhelgi — sem gerir endurkomu svipaðrar tækni í klæðanlegri vöru enn sláandi.aclum+2

Hvort fjarlæging kóðans tákni raunverulega undanhald eða tímabundin viðbrögð við opinberri skoðun er enn ósvarað spurning sem Meta hefur hingað til neitað að svara.