TIME découvre que Muse de Meta crée des dossiers horaires sur les utilisateurs

Muse, l'assistant personnel doté d'intelligence artificielle de Meta Platforms, tient des dossiers continuellement mis à jour sur ses utilisateurs et sur les personnes qu'ils mentionnent, selon une analyse de TIME des instructions internes de l'assistant publiée mardi. Meta n'a pas contesté ces conclusions.time

Ce rapport s'ajoute à une semaine d'examen minutieux sur la quantité de données personnelles collectées par l'agent à croissance rapide de Meta. Muse a été lancé le 8 septembre et a dépassé les 5 millions de téléchargements en quelques semaines.cnn+1

Ce que montrent les instructions

TIME a découvert que Muse met à jour ses profils chaque heure. Ils enregistrent comment les utilisateurs et leurs contacts se sont rencontrés, leurs intérêts communs, leurs différends, ainsi que les "tensions et alliances" au sein d'un groupe social. Les personnes qui n'utilisent pas Muse peuvent tout de même être cartographiées par les agents d'autres utilisateurs, sur la base des chats, messages et e-mails que l'assistant a lus. L'agent est invité à déduire des objectifs que les utilisateurs "n'ont pas exprimés à voix haute" et à apprendre quelles incitations fonctionnent le mieux. Un exemple dans ses instructions indique : "Cet utilisateur répond mieux aux courtes incitations après 22 heures". Muse examine également les conversations de chaque journée chaque nuit.time

Les instructions couvrent également ce qui se passe lorsqu'un utilisateur demande à Muse d'oublier quelque chose. Cela ne supprime pas nécessairement le message original, et l'agent reçoit l'ordre suivant : "Ne dites pas à l'utilisateur que ses messages originaux peuvent rester visibles dans le chat, et ne présentez pas cela comme un échec de Muse à effacer les données".time

Wired a rapporté des conclusions similaires un jour plus tôt. Le chercheur indépendant en sécurité et sûreté de l'IA, Karan Joshi, a réussi à faire révéler par Muse des instructions lui ordonnant de créer "une page pour chaque personne dans la vie de l'utilisateur", y compris la famille, les partenaires et les collègues.mashable+1

La réponse de Meta

"Muse se souvient de ce qui compte le plus pour vous, y compris des informations sur les autres que vous choisissez de partager, afin de pouvoir être un assistant personnel utile", a déclaré un porte-parole de Meta à TIME. S'adressant à Wired, le porte-parole de Meta, Daniel Roberts, a déclaré que Muse rassemble du contexte "basé sur des informations publiques et sur ce que vous avez choisi de partager".mashable+1

Meta affirme que chaque agent fonctionne sur sa propre machine virtuelle cloud isolée et que les données de Muse ne sont pas partagées avec son système publicitaire. Cependant, les instructions indiquent que les agents "s'enseignent mutuellement grâce à des leçons partagées" après avoir supprimé les détails d'identification. Meta a déclaré que ces apprentissages anonymisés sont utilisés pour améliorer le produit global. Lors de sa conférence Connect en septembre, Meta a annoncé un chiffrement destiné à empêcher même l'entreprise d'accéder aux données de Muse. Cette option n'est pas encore disponible.time+1

Inquiétude croissante

404 Media a rapporté que les ingénieurs de Meta se sont précipités pour corriger des vulnérabilités peu avant le lancement qui auraient pu permettre à un agent de s'échapper de sa machine virtuelle. Une source a déclaré que les ingénieurs seniors pensent qu'une "fuite de données massive" est inévitable. Business Insider a rapporté que certains premiers utilisateurs ont supprimé des agents IA personnels, dont Muse, en raison de préoccupations liées à la vie privée. Le PDG d'Arcellx, Rami Elghandour, a déclaré : "Je n'ai certainement pas accordé, et je n'accorderais jamais, l'accès à tous mes messages à Meta".futurism+1