Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]
All voices matter
MIT-studie: AI-genererte bilder kan ofte ikke spores til treningsdata
- Forskere ved MIT har publisert en artikkel i Nature Communications som beskriver hvordan individuelle treningsbilder mister målbar innflytelse etter hvert som datasett vokser.
news.mit - Teamet bygde en "diffusjonsensemble"-arkitektur som tillater nøyaktig fjerning av treningsdata, og fant at effekten gjaldt på tvers av 24 modeller og syv datasett.
news.mit+1 - Funnene kan komplisere opphavsrettssaker mot AI-selskaper, selv om forskerne påpeker at studien ikke omhandler store språkmodeller.
news.mit+1
En ny studie fra MITs Computer Science and Artificial Intelligence Laboratory har identifisert et fenomen forskerne kaller "attribusjonsforfall". De fant at etter hvert som AI-bildegeneratorer trenes på større datasett, blir innflytelsen fra et enkelt treningsbilde stadig vanskeligere, eller umulig, å spore. Artikkelen, som ble publisert tirsdag i Nature Communications, har implikasjoner for den pågående bølgen av opphavsrettssøksmål mot AI-selskaper.news.mit
Den forsvinnende koblingen
Forskerne Zheng Dai og David Gifford utviklet en arkitektur kalt et "diffusjonsensemble" for å svare på et tilsynelatende enkelt spørsmål: Hva ville en modell produsert hvis den aldri hadde sett et bestemt treningsbilde? I stedet for å trene opp modeller fra bunnen av millioner av ganger, trener systemet deres flere komponenter på overlappende deler av data, noe som gjør det mulig å slå av spesifikke påvirkninger uten tilnærminger.news.mit
Ved å teste 24 ensembler på datasett fra 256 til over 160 000 bilder, fant de et konsekvent mønster: Jo større treningssettet er, desto mindre betydde hvert enkelt bilde. I noen tilfeller førte fjerning av en hel kunstners samlede verk eller hvert fotografi av en gitt person til ingen målbar endring i det genererte resultatet.digitaltrends+1
"Hvis du fjerner en datadel og modellens utdata ikke endres, så påvirket ikke den datadelen resultatet," sa Dai i MITs kunngjøring. "Da gir det ikke mye mening å tilskrive resultatet til den datadelen."news.mit
Juridiske implikasjoner
Funnene kommer samtidig som AI-selskaper står overfor økende krav om opphavsrett. Disney The Walt Disney Company , NBCUniversal Comcast Corporation og DreamWorks anla i fjor et søksmål om intellektuell eiendom mot AI-bildegeneratoren Midjourney, mens The New York Times saksøkte OpenAI og Microsoft i 2023. I den pågående saken Andersen mot Stability AI har saksøkerne søkt tilgang til Midjourneys treningsdatasett, med påstand om at selskapet hentet bilder for å etterligne spesifikke kunstneres stiler.tech.yahoo+1
"Vi må kanskje revurdere hva intellektuell eiendom betyr," sa Dai til Semafor. "Du kan ikke bare anta det, og attribusjonskoblingen forsvinner på en måte."tech.yahoo
Ingen fripass
Forskerne advarer om at funnene deres ikke betyr at modeller aldri kopierer, da memorering og gjengivelse av spesifikke treningseksempler fortsatt kan forekomme. Studien undersøkte også bare diffusjonsmodeller; om det samme forfallet gjelder for store språkmodeller forblir et åpent spørsmål.news.mit
James Grimmelmann, jusprofessor ved Cornell Law School og Cornell Tech, sa at artikkelen "gir grunn til å tro at attribusjon vil feile for interessante modeller. I stedet må teknologer og domstoler ty til andre metoder for å vurdere kopiering."theregister+1
Kilder (5)
- 1 When AI art has no author: Study finds generated images often can't ... news.mit.edu
- 2 AI may be learning from billions of images without copying any one of them www.digitaltrends.com
- 3 Gen AI outputs are unattributable, study finds tech.yahoo.com
- 4 AI models get convenient amnesia about source material ... www.theregister.com
- 5 MIT Study Finds Some AI Images Can't Be Traced to Any Single Training Source www.zmescience.com
