Une étude du MIT montre que les images générées par IA ne peuvent souvent pas être reliées à leurs données d’entraînement

Une nouvelle étude du Laboratoire d'informatique et d'intelligence artificielle du MIT a identifié un phénomène que les chercheurs appellent "déclin de l'attribution", constatant qu'à mesure que les générateurs d'images par IA sont entraînés sur des jeux de données plus vastes, l'influence de chaque image d'entraînement devient de plus en plus difficile, voire impossible, à détecter. L'article, publié mardi dans Nature Communications, a des implications pour la vague actuelle de litiges sur les droits d'auteur visant les entreprises d'IA.news.mit

Le lien qui s'évapore

Les chercheurs Zheng Dai et David Gifford ont développé une architecture appelée "ensemble de diffusion" pour répondre à une question faussement simple : que produirait un modèle s'il n'avait jamais vu une image d'entraînement particulière ? Plutôt que de réentraîner des modèles à partir de zéro des millions de fois, leur système entraîne plusieurs composants sur des tranches de données qui se chevauchent, permettant de désactiver des influences spécifiques sans approximation.news.mit

En testant 24 ensembles sur des jeux de données allant de 256 à plus de 160 000 images, ils ont découvert un modèle cohérent : plus le jeu d'entraînement est grand, moins une image individuelle compte. Dans certains cas, la suppression de l'ensemble de l'œuvre d'un artiste ou de chaque photographie d'une personne donnée n'a produit aucun changement mesurable dans le résultat généré.digitaltrends+1

"Si vous retirez une donnée et que le résultat du modèle ne change pas, alors cette donnée n'a pas affecté le résultat", a déclaré Dai dans le communiqué du MIT. "Il n'est donc pas très logique d'attribuer le résultat à cette donnée".news.mit

Implications juridiques

Ces résultats surviennent alors que les entreprises d'IA font face à une accumulation de plaintes pour droits d'auteur. Disney The Walt Disney Company ↗ 2.87%, NBCUniversal Comcast Corporation ↗ 1.49% et DreamWorks ont déposé une plainte pour propriété intellectuelle l'année dernière contre le générateur d'images Midjourney, tandis que The New York Times ↗ 1.37% a poursuivi OpenAI et Microsoft ↗ 0.56% en 2023. Dans l'affaire en cours Andersen contre Stability AI, les plaignants ont demandé l'accès aux jeux de données d'entraînement de Midjourney, alléguant que l'entreprise a récupéré des images pour imiter les styles d'artistes spécifiques.tech.yahoo+1

"Nous devrons peut-être repenser ce que signifie la propriété intellectuelle", a déclaré Dai à Semafor. "On ne peut pas simplement le supposer, et le lien d'attribution s'évapore en quelque sorte".tech.yahoo

Pas un blanc-seing

Les chercheurs avertissent que leurs conclusions ne signifient pas que les modèles ne copient jamais : la mémorisation et la reproduction d'exemples d'entraînement spécifiques peuvent toujours se produire. L'étude n'a également examiné que les modèles de diffusion ; la question de savoir si le même déclin s'applique aux grands modèles de langage reste ouverte.news.mit

James Grimmelmann, professeur de droit à la Cornell Law School et à Cornell Tech, a déclaré que l'article "donne des raisons de penser que l'attribution échouera pour les modèles intéressants. Au lieu de cela, les technologues et les tribunaux devront recourir à d'autres méthodes pour évaluer la copie".theregister+1