Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

news.mitnews.mit+1news.mit+1En ny studie från MIT:s Computer Science and Artificial Intelligence Laboratory har identifierat ett fenomen som forskarna kallar "attribueringsförfall". De fann att i takt med att AI-bildgeneratorer tränas på större datamängder blir inflytandet från en enskild träningsbild allt svårare, eller omöjligt, att upptäcka. Artikeln, som publicerades i tisdags i Nature Communications, har betydelse för den pågående vågen av upphovsrättstvister mot AI-företag.news.mit
Forskarna Zheng Dai och David Gifford utvecklade en arkitektur kallad en "diffusionsensemble" för att besvara en till synes enkel fråga: vad skulle en modell producera om den aldrig hade sett en specifik träningsbild? Istället för att träna om modeller från grunden miljontals gånger tränar deras system flera komponenter på överlappande delar av data, vilket gör det möjligt att stänga av specifika influenser utan approximationer.news.mit
Genom att testa 24 ensembler på datamängder från 256 till över 160 000 bilder fann de ett konsekvent mönster: ju större träningssetet är, desto mindre betydde varje enskild bild. I vissa fall gav borttagningen av en hel konstnärs samlade verk eller varje fotografi av en viss person ingen mätbar förändring i det genererade resultatet.digitaltrends+1
"Om du tar bort en datadel och modellens utdata inte ändras, så påverkade inte den datadelen resultatet," sa Dai i MIT:s tillkännagivande. "Då är det inte särskilt logiskt att tillskriva resultatet till den datadelen."news.mit
Resultaten kommer samtidigt som AI-företag möter växande krav gällande upphovsrätt. Disney The Walt Disney Company , NBCUniversal Comcast Corporation och DreamWorks lämnade förra året in en stämningsansökan om immateriella rättigheter mot AI-bildgeneratorn Midjourney, medan The New York Times stämde OpenAI och Microsoft under 2023. I det pågående målet Andersen mot Stability AI har kärandena sökt tillgång till Midjourneys träningsdata, med påståendet att företaget skrapat bilder för att efterlikna specifika konstnärers stilar.tech.yahoo+1
"Vi kanske måste omvärdera vad immateriella rättigheter innebär," sa Dai till Semafor. "Man kan inte bara ta det för givet, och attribueringslänken försvinner på sätt och vis."tech.yahoo
Forskarna varnar för att deras resultat inte innebär att modeller aldrig kopierar, då memorering och återgivning av specifika träningsexempel fortfarande kan förekomma. Studien undersökte dessutom endast diffusionsmodeller; huruvida samma förfall gäller för stora språkmodeller förblir en öppen fråga.news.mit
James Grimmelmann, professor i juridik vid Cornell Law School och Cornell Tech, menar att artikeln "ger anledning att tro att attribuering kommer att misslyckas för intressanta modeller. Istället kommer tekniker och domstolar att behöva använda andra metoder för att bedöma kopiering."theregister+1