Google ouvre son détecteur d’IA SynthID au public mondial

Google Alphabet Inc. ↗ 0.81% a rendu son SynthID Detector accessible au public ce mercredi. Le site web gratuit, synthid.com, fonctionne dans le monde entier en anglais et permet à quiconque de télécharger une image, une vidéo ou un fichier audio pour vérifier la présence des filigranes invisibles que Google et plusieurs entreprises partenaires insèrent dans les médias générés par IA. Auparavant, l'outil était réservé aux journalistes, chercheurs et autres professionnels des médias. Le détecteur peut lire les marques SynthID des modèles de Google ainsi que ceux d'OpenAI, NVIDIA ↘ 0.74% et Kakao, et Google précise que la prise en charge d'Apple ↗ 0.91% arrivera "bientôt".blog+1

"Désormais, nous élargissons l'accès à tous, l'outil étant disponible mondialement en anglais à partir d'aujourd'hui", a écrit Pushmeet Kohli, vice-président de Google DeepMind, dans un article de blog de l'entreprise.unite+1

Comment ça marche

SynthID ajoute un signal au contenu au moment de sa création. Dans les images et les vidéos, la marque se situe dans les pixels, et dans l'audio, elle se trouve dans la forme d'onde, de sorte qu'elle ne soit pas perdue comme peuvent l'être les métadonnées. Google affirme avoir apposé des filigranes sur plus de 180 milliards d'images et de vidéos et 240 000 années d'audio depuis le lancement de SynthID en 2023. L'entreprise indique également que les fonctionnalités de vérification intégrées à la Recherche, à l'application Gemini et à Chrome traitent désormais plus d'un million de requêtes par jour.arstechnica+2

Selon Ars Technica, le nouveau site corrige un problème de l'ancien détecteur de Google, qui ne vérifiait que le filigrane propre à Google. Les images générées par ChatGPT portaient SynthID mais n'étaient pas signalées. Les utilisateurs doivent se connecter avec un compte Google, OpenAI ou Apple. Un représentant de Google a déclaré à Android Authority qu'il n'existe aucun autre moyen de se connecter. La version publique fournit un résultat simple indiquant si un filigrane a été détecté. Contrairement à l'outil interne, elle ne met pas en évidence les parties d'une image portant la marque.androidauthority+1

Limites

La FAQ du site indique clairement : "Ce n'est pas un détecteur d'IA général". Il ne trouve que le contenu provenant d'entreprises ayant adopté SynthID. Un résultat "non détecté" n'exclut pas l'IA, car le fichier peut provenir d'un modèle sans filigrane, ou une édition poussée peut avoir affaibli le signal. La FAQ note également de rares cas où le détecteur signale à tort du contenu sans filigrane.unite

Engadget a rapporté que l'outil ne peut pas distinguer le contenu entièrement créé par IA du contenu simplement édité avec l'IA, et que les filigranes peuvent parfois être supprimés. La détection dépend toujours d'un patchwork de normes. Meta ↘ 2.38% utilise son propre outil, qui identifie les images de ses derniers modèles Muse mais pas celles d'autres entreprises.engadget

Google affirme qu'il "travaille continuellement à étendre nos partenariats pour permettre la détection de davantage de médias générés". ElevenLabs s'était déjà engagé à prendre en charge les filigranes. Google n'a pas précisé quand d'autres langues que l'anglais seraient ajoutées.goosed+1