OpenAI va ajouter des filigranes invisibles aux textes de ChatGPT dans l’UE

OpenAI a annoncé le lundi 5 octobre qu'elle commencerait à intégrer un filigrane invisible dans les textes éligibles de ChatGPT et Codex produits dans l'Union européenne au cours des prochaines semaines. L'entreprise précise que cette mesure vise à répondre à l'exigence de la loi européenne sur l'IA, qui impose que les contenus générés par IA comportent des marquages lisibles par machine. Cette technologie est baptisée textGrain. C'est la première fois qu'OpenAI déploie un filigrane textuel à grande échelle, après en avoir conçu un en 2024 sans toutefois le publier.citybiz+2

Fonctionnement de textGrain

Dans un article de blog, OpenAI explique que textGrain "ajoute un signal statistique invisible aux choix de mots du modèle". Les lecteurs ne voient aucune étiquette. Au lieu de cela, un détecteur vérifie si un passage suit le modèle défini par une clé secrète. Le filigrane européen s'appliquera aux utilisateurs de ChatGPT sur tous les plans. À partir du même jour, les clients de l'API partout dans le monde pourront activer cette option pour certains modèles, bien que la fonctionnalité reste désactivée par défaut.openai+2

L'entreprise a déclaré qu'elle "ne généralise pas le filigrane de texte à l'échelle mondiale lors du lancement", selon des extraits de son annonce. L'accès au détecteur sera initialement limité aux chercheurs agréés et aux organisations spécialisées, qui peuvent désormais en faire la demande. OpenAI prévoit également de publier textGrain en tant que logiciel open source.cellcog+1

Limites reconnues par OpenAI

OpenAI a averti que la détection peut être erronée et que la modification ou la traduction du texte peut affaiblir le signal. Lors des tests internes de l'entreprise, tels que résumés par une analyse, le remplacement de 10% des mots d'un passage de 400 jetons par des synonymes a fait chuter le taux de détection d'environ 92% à 66%. Un remplacement de 25% l'a réduit à 17%. OpenAI a également précisé qu'un filigrane n'identifie pas un utilisateur, ne révèle pas les invites, ne vérifie pas l'exactitude et n'établit pas la propriété, et qu'une absence de filigrane ne prouve pas qu'un humain a rédigé le texte.citybiz+1

Les critiques soutiennent depuis longtemps que les filigranes textuels sont faciles à supprimer. L'ingénieur logiciel Sean Goedecke a écrit en juillet que les filigranes pour l'IA textuelle "seront toujours triviaux à supprimer".seangoedecke

Le calendrier réglementaire

L'article 50 de la loi sur l'IA est en vigueur depuis le 2 août 2026. Il exige des fournisseurs d'IA générative qu'ils marquent les résultats synthétiques, y compris les textes, afin qu'ils puissent être identifiés comme générés artificiellement. Les systèmes déjà présents sur le marché avant cette date ont jusqu'au 2 décembre 2026 pour se conformer. Ce délai a été accordé dans le cadre du paquet Digital Omnibus de l'UE, et le Conseil européen de l'IA ne l'a pas prolongé lors de sa réunion du 17 septembre.cloudsecurityalliance

Les entreprises ayant signé le code de pratique de transparence de la Commission se sont également engagées à proposer un moyen interopérable de détecter les filigranes d'ici le 2 février 2027. Google marque déjà ses textes via son outil SynthID, que textGrain a égalé ou surpassé lors des tests internes d'OpenAI.cellcog+2