Integritetslarm när techjättarna storsatsar på alltid påslagen AI-teknik

En ny våg av AI-drivna kroppsburna enheter som kan se, höra och spela in sprider sig snabbt till arbetsplatser och offentliga miljöer. Det har fått integritetsexperter att varna för att tekniken springer ifrån regelverken som är tänkta att styra den.

I en rapport från CNN på lördagen granskades den växande kategorin av alltid påslagna AI-enheter. Bland dessa finns Meta ↗ 0.84% Ray-Ban-glasögon med inbyggda kameror, Amazons Amazon.com, Inc. ↘ 0.35% Bee Pioneer-armband och Plauds NotePin S-inspelare, vilka alla kontinuerligt kan spela in ljud eller video samtidigt som de smälter in i vardagliga kläder. Både storföretag och uppstartsbolag kapprustar om att utveckla dessa enheter, och Samsung planerar att lansera sina egna smarta AI-glasögon tillsammans med Google Alphabet Inc. ↗ 0.78% senare i år.keyt+4

Samtycket ”upplöses”

Enheterna utgör en särskild utmaning jämfört med smarttelefoner eftersom de är mycket svårare för omgivningen att upptäcka. Irina Raicu, chef för programmet för internetetik vid Santa Clara Universitys Markkula Center for Applied Ethics, säger till CNN att ”hela begreppet samtycke håller på att upplösas” i takt med att prylar som dessa blir allt mer diskreta.abc17news

Calli Schroeder, chefsjurist och ansvarig för programmet för AI och mänskliga rättigheter vid Electronic Privacy Information Center, varnar för att kroppsburna prylar med mikrofoner och kameror kan ”bäras diskret på platser som är tänkta att vara privata, som omklädningsrum”. Hon lägger till: ”Det finns en verklig oro för hur detta skulle kunna missbrukas på farliga sätt.”abc17news

Även om Meta, Amazon och Plaud alla har byggt in indikatorlampor i sina enheter för att visa när inspelning pågår, påpekar kritiker att en liten LED-lampa på ett armband eller en klädklämma knappast uppmärksammas under ett vanligt samtal. Meta uppgav i juli att företagets glasögon numera helt stänger av kameran om användaren manipulerar eller förstör LED-lampan.fortune+1

Branschen storsatsar

Trots kritiken skruvar branschen upp sina investeringar. Qualcomms ↗ 5.52% vd Cristiano Amon sade till CNN i juni att ”några av världens största företag just nu” utvecklar AI-smycken, berlocker och nålar. Qualcomm har lanserat ett chip som är särskilt utformat för diskreta, kroppsburna AI-enheter.aibusinessweekly+1

Amazons Panos Panay beskrev Bee Pioneer som en central del i framtiden för röstassistenten Alexa och sade till CNN: ”Ju mer de vet, desto bättre kan de utföra uppgifter åt dig.” Metas vd Mark Zuckerberg har antytt att personer utan AI-glasögon skulle kunna hamna i en ”kognitiv nackdel” jämfört med dem som använder dem.abc17news

Lagstiftningen släpar efter

Det juridiska landskapet är fortsatt splittrat. Lagar om samtycke vid inspelning varierar kraftigt mellan olika jurisdiktioner, och det finns inget heltäckande federalt ramverk i USA som reglerar alltid påslagna kroppsburna inspelningsenheter. Meta står redan inför en grupptalan gällande påstådd insamling av känsligt videomaterial från användare av smarta glasögon via underleverantörer. Kvinnor har rapporterat att de blivit smygfilmade av män med smarta glasögon, varpå videorna lagts upp på sociala medier utan samtycke. Det har fått Meta att börja ta bort sådant material från Instagram.cnn+3

Samtidigt som OpenAIs president Greg Brockman förra veckan förklarade att eran med tangentbord och mus lider mot sitt slut, visar spänningen mellan tekniska ambitioner och den personliga integriteten inga tecken på att avta.abc17news