Un estudio del MIT revela que las imágenes generadas por IA suelen ser imposibles de rastrear hasta sus datos de entrenamiento

Un nuevo estudio del Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT ha identificado un fenómeno que los investigadores llaman "decadencia de atribución", descubriendo que a medida que los generadores de imágenes por IA se entrenan con conjuntos de datos más grandes, la influencia de cualquier imagen de entrenamiento individual se vuelve cada vez más difícil, o imposible, de detectar. El artículo, publicado el martes en Nature Communications, tiene implicaciones para la ola actual de litigios por derechos de autor contra empresas de IA.news.mit

El vínculo que desaparece

Los investigadores Zheng Dai y David Gifford desarrollaron una arquitectura llamada "conjunto de difusión" para responder a una pregunta engañosamente simple: ¿qué produciría un modelo si nunca hubiera visto una imagen de entrenamiento en particular? En lugar de reentrenar modelos desde cero millones de veces, su sistema entrena múltiples componentes en fragmentos de datos superpuestos, permitiendo que influencias específicas se desactiven sin aproximaciones.news.mit

Al probar 24 conjuntos en bases de datos que van desde 256 hasta más de 160,000 imágenes, encontraron un patrón consistente: cuanto mayor es el conjunto de entrenamiento, menos importa cualquier imagen individual. En algunos casos, eliminar toda la obra de un artista o cada fotografía de una persona determinada no produjo cambios medibles en el resultado generado.digitaltrends+1

"Si eliminas un dato y el resultado del modelo no cambia, entonces ese dato no afectó el resultado", dijo Dai en el anuncio del MIT. "Por lo tanto, no tiene mucho sentido atribuir el resultado a ese dato".news.mit

Implicaciones legales

Los hallazgos llegan en un momento en que las empresas de IA enfrentan crecientes demandas por derechos de autor. Disney The Walt Disney Company ↗ 2.87%, NBCUniversal Comcast Corporation ↗ 1.49% y DreamWorks presentaron una demanda de propiedad intelectual el año pasado contra el generador de imágenes por IA Midjourney, mientras que The New York Times ↗ 1.37% demandó a OpenAI y Microsoft ↗ 0.56% en 2023. En el caso en curso Andersen contra Stability AI, los demandantes han solicitado acceso a los conjuntos de datos de entrenamiento de Midjourney, alegando que la empresa recopiló imágenes para imitar los estilos de artistas específicos.tech.yahoo+1

"Quizás tengamos que repensar lo que significa la propiedad intelectual", dijo Dai a Semafor. "No se puede simplemente asumir, y el vínculo de atribución de alguna manera se desvanece".tech.yahoo

No es un pase libre

Los investigadores advierten que sus hallazgos no significan que los modelos nunca copien: la memorización y reproducción de ejemplos de entrenamiento específicos aún pueden ocurrir. El estudio también examinó solo modelos de difusión; si la misma decadencia se aplica a los grandes modelos de lenguaje sigue siendo una pregunta abierta.news.mit

James Grimmelmann, profesor de derecho en la Facultad de Derecho de Cornell y Cornell Tech, dijo que el artículo "da razones para pensar que la atribución fallará en modelos interesantes. En cambio, los tecnólogos y los tribunales deberán recurrir a otros métodos para evaluar la copia".theregister+1