Rannsókn MIT leiðir í ljós að erfitt er að rekja gervigreindar-myndir til þjálfunargagna

Ný rannsókn frá tölvunarfræði- og gervigreindarstofu MIT hefur greint fyrirbæri sem vísindamenn kalla "attribution decay" eða rekjanleikahnignun. Í ljós kom að eftir því sem gervigreindarlíkön eru þjálfuð á stærri gagnasöfnum verður áhrifamáttur einstakra þjálfunarmynda sífellt erfiðari, eða jafnvel ómögulegur, að greina. Greinin, sem birt var á þriðjudag í Nature Communications, hefur þýðingu fyrir þá bylgju höfundarréttarmála sem nú dynur á gervigreindarfyrirtækjum.news.mit

Týnda tengingin

Vísindamennirnir Zheng Dai og David Gifford þróuðu arkitektúr sem kallast "diffusion ensemble" til að svara einfaldri spurningu: hvað myndi líkan framleiða ef það hefði aldrei séð tiltekna þjálfunarmynd? Í stað þess að endurþjálfa líkön frá grunni milljónum sinnum, þjálfar kerfið þeirra marga hluta á skarandi gagnasneiðum, sem gerir kleift að slökkva á tilteknum áhrifum án þess að nota nálganir.news.mit

Við prófun á 24 líkönum á gagnasöfnum sem innihéldu allt frá 256 upp í yfir 160.000 myndir, fundu þeir stöðugt mynstur: því stærra sem þjálfunarsafnið er, því minna skiptir hver einstök mynd máli. Í sumum tilfellum hafði það engin mælanleg áhrif á útkomuna að fjarlægja öll verk listamanns eða hverja einustu ljósmynd af tiltekinni manneskju.digitaltrends+1

"Ef þú fjarlægir gögn og útkoma líkansins breytist ekki, þá höfðu þessi gögn engin áhrif á útkomuna," sagði Dai í tilkynningu frá MIT. "Þess vegna er ekki rökrétt að rekja útkomuna til þeirra gagna."news.mit

Lagalegar afleiðingar

Niðurstöðurnar koma fram á sama tíma og gervigreindarfyrirtæki standa frammi fyrir vaxandi kröfum um höfundarréttarbrot. Disney The Walt Disney Company ↗ 0.43%, NBCUniversal Comcast Corporation ↗ 1.63%, og DreamWorks höfðuðu hugverkaréttarmál á síðasta ári gegn gervigreindarmyndaframleiðandanum Midjourney, á meðan The New York Times ↗ 0.60% stefndi OpenAI og Microsoft ↗ 0.43% árið 2023. Í málinu Andersen gegn Stability AI hafa stefnendur krafist aðgangs að þjálfunargagnasöfnum Midjourney, með þeim rökum að fyrirtækið hafi safnað myndum til að líkja eftir stíl tiltekinna listamanna.tech.yahoo+1

"Við gætum þurft að endurskoða hvað hugverkaréttur þýðir," sagði Dai við Semafor. "Þú getur ekki bara gengið út frá því, og rekjanleikatengingin virðist hverfa."tech.yahoo

Ekki lausn undan ábyrgð

Vísindamennirnir vara við því að niðurstöður þeirra þýði ekki að líkön afriti aldrei – minnisvarðar og endurgerðir á tilteknum þjálfunardæmum geta enn átt sér stað. Rannsóknin skoðaði einnig aðeins "diffusion"-líkön; hvort sama hnignun eigi við um stór mállíkön er enn óleyst spurning.news.mit

James Grimmelmann, lagaprófessor við Cornell Law School og Cornell Tech, sagði að greinin "gefur ástæðu til að ætla að rekjanleiki muni bregðast hjá áhugaverðum líkönum. Í staðinn munu tæknifræðingar og dómstólar þurfa að leita annarra leiða til að meta afritun."theregister+1