Muse Image de Meta utilise des photos Instagram publiques pour l’IA sans consentement

Meta ↗ 2.55% a déployé mardi Muse Image, son premier modèle interne de génération d'images par IA construit par Meta Superintelligence Labs, déclenchant immédiatement une tempête sur la confidentialité après que les utilisateurs ont découvert que l'outil peut extraire des photos de comptes Instagram publics pour générer des images par IA de personnes réelles, sans les en informer ni demander leur consentement.

Comment ça marche

Muse Image est disponible gratuitement sur l'application Meta AI, Instagram Stories et les messages directs WhatsApp, avec des plans d'expansion vers Facebook et Messenger plus tard cette année. Le modèle peut interpréter des invites complexes, mélanger plusieurs photos et permettre aux utilisateurs de modifier les images générées via des croquis ou des annotations. Il alimente également plus de 30 nouveaux effets d'IA pour Instagram Stories aux États-Unis.cnbc+2

La fonctionnalité suscitant les critiques les plus vives permet à quiconque de taguer un profil Instagram public dans une invite, moment auquel Meta AI extrait les photos de cette personne pour générer de nouvelles images utilisant son apparence. "Que vous souhaitiez concevoir une invitation à un événement personnalisée, élaborer un concept créatif collaboratif ou générer un graphique personnalisé, taguer un nom d'utilisateur permet à Meta AI d'utiliser des photos publiques pour créer un visuel prêt à être publié", a écrit Meta dans son annonce.wired+1

Désinscription, pas inscription

Les comptes Instagram publics sont automatiquement inscrits dans le système par défaut. Les utilisateurs qui souhaitent empêcher l'utilisation de leur contenu doivent accéder aux paramètres de leur profil, trouver l'onglet "Partage et réutilisation" et désactiver l'option intitulée "Autoriser les personnes à utiliser votre contenu sur Instagram et avec les fonctionnalités d'IA sur Meta".welcome+2

Le centre d'aide d'Instagram indique que les utilisateurs "ne seront pas informés du contenu créé à l'aide des fonctionnalités d'IA sur Meta", ce qui signifie que les photos de quelqu'un pourraient être remixées à son insu. De plus, les images par IA déjà existantes créées à partir du contenu d'un utilisateur ne seront pas supprimées même après la désinscription.wired

Un modèle familier

L'approche de désinscription correspond à un modèle récurrent qui a attiré l'attention des autorités de régulation sur Meta par le passé. L'entreprise a fait face à des enquêtes et à des amendes de la part des autorités européennes de protection des données concernant son utilisation des données des utilisateurs pour l'entraînement de l'IA sans consentement explicite. Les critiques soutiennent que la nouvelle fonctionnalité aggrave ces préoccupations en étendant l'utilisation des données au-delà de l'entraînement à la génération directe de contenu impliquant des personnes identifiables.

Meta a décrit Muse Image comme une réponse compétitive aux outils de génération d'images de GPT Images d'OpenAI et d'Alphabet Inc. ↘ 0.35% de Google. Le modèle, initialement nommé Mango, a été dirigé par Alexandr Wang chez Meta Superintelligence Labs et remplace la technologie que Meta avait précédemment licenciée auprès de la startup d'IA Midjourney. Un modèle de génération vidéo, Muse Video, devrait suivre.nytimes+2