MIT:n tutkimus: Tekoälyn luomia kuvia on usein mahdotonta jäljittää opetusdataan

MIT:n tietojenkäsittelytieteen ja tekoälyn laboratorion uusi tutkimus on tunnistanut ilmiön, jota tutkijat kutsuvat "attribuution rappeutumiseksi". Sen mukaan tekoälypohjaisten kuvageneraattorien opetusaineistojen kasvaessa yksittäisen opetuskuvan vaikutusta on yhä vaikeampi tai jopa mahdotonta havaita. Tiistaina Nature Communications -lehdessä julkaistu artikkeli vaikuttaa tekoäly-yhtiöitä vastaan nostettuihin tekijänoikeusjuttuihin.news.mit

Katoava yhteys

Tutkijat Zheng Dai ja David Gifford kehittivät "diffuusio-ensemble"-arkkitehtuurin vastatakseen petollisen yksinkertaiseen kysymykseen: mitä malli tuottaisi, jos se ei olisi koskaan nähnyt tiettyä opetuskuvaa? Sen sijaan, että malleja olisi koulutettu miljoonia kertoja alusta alkaen, heidän järjestelmänsä kouluttaa useita komponentteja päällekkäisillä dataosuuksilla, mikä mahdollistaa tiettyjen vaikutusten kytkemisen pois päältä ilman approksimaatiota.news.mit

Testattuaan 24 ensemblea 256–160 000 kuvan aineistoilla, he havaitsivat johdonmukaisen kaavan: mitä suurempi opetusaineisto on, sitä vähemmän yksittäisellä kuvalla on merkitystä. Joissakin tapauksissa kokonaisen taiteilijan tuotannon tai tietyn henkilön kaikkien valokuvien poistaminen ei aiheuttanut mitattavaa muutosta tuotetussa lopputuloksessa.digitaltrends+1

"Jos poistat datan palasen eikä mallin tuotos muutu, kyseinen datan palanen ei vaikuttanut lopputulokseen", Dai sanoi MIT:n tiedotteessa. "Siksi lopputuloksen attribuointi kyseiseen datan palaseen ei ole kovin järkevää."news.mit

Oikeudelliset vaikutukset

Tulokset tulevat samaan aikaan, kun tekoäly-yhtiöt kohtaavat kasvavia tekijänoikeusvaatimuksia. Disney The Walt Disney Company ↗ 2.63%, NBCUniversal Comcast Corporation ↗ 0.63% ja DreamWorks nostivat viime vuonna immateriaalioikeusjutun tekoälypohjaista Midjourney-kuvageneraattoria vastaan, kun taas The New York Times ↗ 2.74% haastoi OpenAI:n ja Microsoftin ↗ 0.84% oikeuteen vuonna 2023. Käynnissä olevassa Andersen v. Stability AI -oikeusjutussa kantajat ovat vaatineet pääsyä Midjourneyn opetusaineistoihin väittäen, että yhtiö on kerännyt kuvia matkiakseen tiettyjen taiteilijoiden tyylejä.tech.yahoo+1

"Meidän on ehkä mietittävä uudelleen, mitä immateriaalioikeus tarkoittaa", Dai kertoi Semaforille. "Sitä ei voi vain olettaa, ja attribuutioyhteys tavallaan katoaa."tech.yahoo

Ei vapaudu vastuusta

Tutkijat varoittavat, etteivät tulokset tarkoita, etteivätkö mallit koskaan kopioisi – tiettyjen opetusnäytteiden muistaminen ja toistaminen on edelleen mahdollista. Tutkimuksessa tarkasteltiin vain diffuusiomalleja; se, päteekö sama rappeutuminen suuriin kielimalleihin, on edelleen avoin kysymys.news.mit

Cornellin yliopiston oikeustieteen professori James Grimmelmann totesi, että artikkeli "antaa syyn ajatella, että attribuutio epäonnistuu kiinnostavien mallien kohdalla. Sen sijaan teknologien ja tuomioistuinten on turvauduttava muihin menetelmiin kopioinnin arvioimiseksi".theregister+1