Alltid på-koblede KI-dingser vekker personvern-advarsler i teknologigigantenes kappløp

En ny bølge av KI-drevne bærbare enheter som kan se, høre og ta opp, er på vei inn i arbeidsplasser og offentlige rom. Dette utløser advarsler fra personverneksperter om at teknologien løper fra rammeverkene som er ment å regulere den.

En CNN-rapport publisert lørdag undersøkte den voksende kategorien av alltid på-koblede KI-enheter, inkludert Metas ↗ 0.22% Ray-Ban-briller med innebygde kameraer, Amazons Amazon.com, Inc. ↗ 1.14% Bee Pioneer-armbånd og Plauds NotePin S-opptaker. Alle disse kan kontinuerlig ta opp lyd eller video mens de glir inn i vanlige klær. Store selskaper og oppstartsbedrifter kappes om å utvikle slike enheter, og Samsung skal etter planen lansere sine egne KI-smartbriller sammen med Google Alphabet Inc. ↘ 0.21% senere i år.keyt+4

Samtykket 'oppløses'

Enhetene utgjør en særskilt utfordring sammenlignet med smarttelefoner fordi de er langt vanskeligere for forbipasserende å oppdage. Irina Raicu, direktør for programmet for internettetikk ved Santa Clara Universitys Markkula Center for Applied Ethics, uttalte til CNN at "hele konseptet med samtykke på en måte oppløses" etter hvert som disse dingsene blir mindre iøynefallende.abc17news

Calli Schroeder, seniorrådgiver og direktør for KI- og menneskerettighetsprogrammet ved Electronic Privacy Information Center, advarte om at bærbare dingser med mikrofoner og kameraer kan "bæres diskret i områder som er ment å være private, som prøverom", og la til: "Det er en reell bekymring for hvordan dette kan misbrukes på farlige måter."abc17news

Selv om Meta, Amazon og Plaud alle har bygget inn indikatorlys i enhetene sine for å signalisere når opptak pågår, påpeker kritikere at en liten LED-lampe på et armbånd eller en skjorteklemme neppe vil bli lagt merke til under en vanlig samtale. Meta uttalte i juli at brillene deres nå vil deaktivere kameraet fullstendig dersom brukerne gjør inngrep i eller ødelegger LED-opptakslyset.fortune+1

Bransjen satser for fullt

Tross kritikken akselererer bransjen investeringene. Qualcomms ↘ 0.86% administrerende direktør Cristiano Amon uttalte til CNN i juni at "noen av de største selskapene i verden akkurat nå" utvikler KI-anheng, nåler og smykker. Qualcomm har lansert en brikke spesifikt designet for diskrete, kroppsbårne KI-enheter.aibusinessweekly+1

Amazons Panos Panay fremstilte Bee Pioneer som sentral for fremtiden til Alexa-assistenten, og sa til CNN: "Jo mer de vet, desto bedre kan de utføre oppgaver for deg." Metas administrerende direktør Mark Zuckerberg har antydet at personer uten KI-briller kan stille med en "kognitiv ulempe" sammenlignet med dem som bruker dem.abc17news

Reguleringen henger etter

Det regulatoriske landskapet er fortsatt fragmentert. Lover om samtykke til opptak varierer sterkt mellom jurisdiksjoner, og det finnes ikke noe omfattende føderalt rammeverk i USA som adresserer alltid på-koblede bærbare opptaksenheter. Meta står allerede overfor et gruppesøksmål angående påstått innsamling av sensitivt videoinnhold fra smartbrillebrukere utført av tredjepartsleverandører. Kvinner har rapportert om å ha blitt snikfilmet av menn som bruker smartbriller, der de resulterende videoene har blitt publisert på sosiale medier uten samtykke, noe som har fått Meta til å begynne å fjerne slikt innhold fra Instagram.cnn+3

Da OpenAI-president Greg Brockman i forrige uke erklærte at æraen for tastatur og mus er over, viser spenningen mellom teknologiske ambisjoner og personvern ingen tegn til å avta.abc17news