Des développeurs créent des outils pour supprimer le tatouage numérique de Claude

L'effort d'Anthropic pour étiqueter le texte généré par son modèle d'IA Claude s'est heurté à un obstacle immédiat : des développeurs créent des outils pour supprimer ces étiquettes, et les utilisateurs s'y ruent.

L'entreprise a commencé à intégrer un tatouage numérique statistique dans tout le texte généré par Claude le 2 août, afin de se conformer à la loi sur l'IA de l'Union européenne, qui exige que les fournisseurs d'IA marquent le contenu synthétique sous une forme lisible par machine. Quelques heures après l'annonce, des outils de suppression open-source ont commencé à circuler en ligne, attirant des milliers d'utilisateurs et relançant le débat sur la viabilité technique du tatouage numérique des textes générés par IA.thenextweb+1

Une solution en cinq heures

Guillaume Meyer, un entrepreneur basé à Paris, a publié un projet open-source appelé Watermarks Remover sur GitHub seulement quatre heures après l'annonce d'Anthropic, selon WIRED. L'outil supprime les caractères cachés et les métadonnées, puis réécrit le texte pour perturber le modèle statistique qui porte le tatouage. Il a depuis attiré plus de 14 000 étoiles sur GitHub et compte plus de 100 contributeurs.wired+1

"Je suis tout à fait favorable à l'attribution du contenu", a déclaré Meyer à Business Insider, comme le rapporte The Next Web. "Je suis contre la technique du tatouage numérique, et c'est une distinction très importante." Il a fait valoir que la méthode "traite la paternité comme une chose binaire", marquant le texte que Claude l'ait écrit entièrement ou qu'il ait simplement aidé à l'éditer.thenextweb

D'autres développeurs ont suivi. Sabrina Ramonov, une éducatrice en IA, a créé un suppresseur gratuit basé sur navigateur, et Ansh Aneja, un développeur basé à Tokyo, a déclaré que son outil avait attiré 8 500 utilisateurs en une seule journée. L'intérêt sur Google Trends pour "AI watermark remover" a augmenté de 60 % d'une semaine à l'autre.gizmodo+1

La réponse d'Anthropic

Anthropic a déclaré que le tatouage numérique repose sur des choix de mots à faible enjeu : lorsque plusieurs mots fonctionnent aussi bien, le modèle en privilégie un, laissant une trace statistique détectable. L'entreprise affirme que la marque ne contient aucune information d'identification et ne peut être retracée jusqu'à un utilisateur ou une conversation spécifique. Dans un article de blog, elle a déclaré que le tatouage "ne dit rien sur la propriété ou la paternité, et ne modifie pas les droits de l'utilisateur selon nos conditions".gizmodo+1

L'entreprise a signé le code de transparence de l'IA de l'UE en juillet aux côtés d'environ 190 autres signataires et affirme qu'elle ne peut pas encore limiter le tatouage aux utilisateurs de l'UE, de sorte que la fonctionnalité est déployée mondialement.thenextweb

Une limite connue

Les chercheurs affirment que les outils de suppression exposent une faiblesse fondamentale. "Il y aura toujours des moyens de supprimer le tatouage numérique", a déclaré Thibaud Gloaguen, chercheur à l'ETH Zurich, à Business Insider, comme cité par The Next Web. Anthropic a elle-même reconnu qu'une réécriture importante peut supprimer complètement la marque, point auquel, admet l'entreprise, il devient discutable de savoir si le texte est encore significativement généré par une IA.thenextweb

Le paysage juridique offre peu de dissuasion. La loi européenne sur l'IA impose des obligations d'étiquetage aux fournisseurs mais n'interdit pas expressément aux tiers de supprimer les tatouages numériques, selon Konrad Kollnig, professeur adjoint à l'Université de Maastricht. Anthropic n'a pas répondu aux questions sur les outils de suppression.thenextweb