Appareils IA connectés en permanence: la course des géants de la tech alerte sur la vie privée

Une nouvelle vague d'appareils intelligents portatifs dotés d'IA, capables de voir, d'entendre et d'enregistrer, s'invite rapidement dans les lieux de travail et les espaces publics. Cela suscite les mises en garde d'experts de la vie privée, qui soulignent que la technologie dépasse désormais les cadres réglementaires censés l'encadrer.

Un rapport de CNN publié samedi s'est penché sur cette catégorie croissante d'appareils IA actifs en permanence. Parmi eux figurent les lunettes Ray-Ban de Meta ↗ 1.77% équipées de caméras intégrées, le bracelet Bee Pioneer d'Amazon.com, Inc. ↗ 0.52% et l'enregistreur NotePin S de Plaud, qui peuvent tous capturer de l'audio ou de la vidéo en continu tout en se fondant dans les vêtements du quotidien. Les grandes entreprises et les jeunes pousses rivalisent pour développer ces dispositifs, Samsung devant lancer ses propres lunettes intelligentes à IA en collaboration avec Google Alphabet Inc. ↗ 2.97% plus tard cette année.keyt+4

Le consentement en train de « se désintégrer »

Ces appareils posent un défi inédit par rapport aux smartphones, car ils sont nettement plus difficiles à repérer pour les passants. Irina Raicu, directrice du programme d'éthique d'Internet au Markkula Center for Applied Ethics de l'université de Santa Clara, a déclaré à CNN que « la notion même de consentement est en train de se désintégrer » à mesure que ces gadgets se font plus discrets.abc17news

Calli Schroeder, conseillère principale et directrice du programme IA et droits humains au sein de l'Electronic Privacy Information Center, a averti que les gadgets portatifs équipés de micros et de caméras peuvent être « portés discrètement dans des lieux privés comme des cabines d'essayage », ajoutant: « Il existe de réelles inquiétudes quant aux utilisations dangereuses qui pourraient en être faites. »abc17news

Même si Meta, Amazon et Plaud ont tous intégré des voyants lumineux sur leurs appareils pour signaler un enregistrement en cours, les critiques soulignent qu'une petite LED sur un bracelet ou une pince de chemise a peu de chances d'être remarquée lors d'une conversation normale. Meta a déclaré en juillet que ses lunettes désactiveraient désormais complètement la caméra si les utilisateurs modifiaient ou détruisaient le voyant lumineux d'enregistrement.fortune+1

L'industrie accélère les investissements

Malgré les réactions négatives, le secteur accélère ses investissements. Cristiano Amon, PDG de Qualcomm ↗ 0.44%, a affirmé à CNN en juin que « certaines des plus grandes entreprises au monde à l'heure actuelle » développent des pendentifs, des broches et des bijoux intelligents à IA. Qualcomm a d'ailleurs lancé une puce spécialement conçue pour les appareils IA corporels et discrets.aibusinessweekly+1

Panos Panay, d'Amazon, a présenté le Bee Pioneer comme un élément central de l'avenir de l'assistant Alexa, expliquant à CNN: « Plus ils en savent, mieux ils peuvent accomplir des tâches pour vous. » De son côté, le PDG de Meta, Mark Zuckerberg, a suggéré que les personnes dépourvues de lunettes IA pourraient subir un « désavantage cognitif » par rapport à celles qui en utilisent.abc17news

Une réglementation en retard

Le paysage réglementaire reste fragmenté. Les lois relatives au consentement d'enregistrement varient considérablement selon les juridictions, et aucun cadre fédéral global aux États-Unis ne régit les appareils d'enregistrement portatifs actifs en permanence. Meta fait déjà face à un recours collectif concernant la collecte présumée de contenus vidéo sensibles auprès des utilisateurs de lunettes intelligentes par des sous-traitants tiers. Des femmes ont rapporté avoir été filmées à leur insu par des hommes utilisant des lunettes connectées, les vidéos ayant ensuite été publiées sur les réseaux sociaux sans leur consentement, ce qui a poussé Meta à commencer à supprimer ce type de contenu d'Instagram.cnn+3

Alors que le président d'OpenAI, Greg Brockman, a déclaré la semaine dernière que l'ère des claviers et des souris touchait à sa fin, les tensions entre ambition technologique et respect de la vie privée ne montrent aucun signe d'apaisement.abc17news