ChatGPT-käyttäjät haastavat OpenAIn oikeuteen Project Lily -keskustelujen urkinnasta

OpenAI on maksanut sadoille alihankkijoille yli 50 dollaria tunnilta todellisten ChatGPT-keskustelujen lukemisesta, tiivistämisestä ja pisteyttämisestä osana sisäistä Project Lily -koodinimellä kulkevaa ohjelmaa, paljasti 404 Median tutkinta tällä viikolla. Paljastus johti keskiviikkona kahden ChatGPT-käyttäjän nostamaan ryhmäkanteeseen, jossa yhtiötä syytetään käyttäjien johtamisesta harhaan keskustelujen yksityisyyden osalta.404media+1

Project Lilyn sisäpiirissä

404 Median toimittajan Joseph Coxin 14. syyskuuta julkaisema tutkinta perustuu vuodettuihin sisäisiin asiakirjoihin ja todellisiin käyttäjien syötteisiin. Se kuvaa jäsenneltyä arviointiprosessia, jossa alihankkijat lukevat käyttäjän syötteen, tiivistävät käyttäjän aikeen, vertailevat neljää ChatGPT:n luomaa vastausta ja pisteyttävät ne asteikolla yhdestä seitsemään. Arvioijat eivät tarkista faktojen paikkansapitävyyttä. Sen sijaan vuodetut koulutusoppaat ohjeistavat heitä rankaisemaan "tekoälypuheesta", merkitsemään vastaukset, joissa botti väittää olevansa ihminen, ja rankaisemaan liian nöyristelevistä vastauksista: käyttäytymismallista, jonka OpenAI on yhdistänyt todellisiin haittoihin toisessa oikeusjutussa.aiweekly+2

OpenAI poistaa käyttäjänimet ja ajaa syötteet automaattisen yksityisyyssuodattimen läpi ennen kuin ne päätyvät arvioijille. Yhtiö kuitenkin myönsi 404 Medialle, että suodatin on puutteellinen. Alihankkijat kertoivat nähneensä arvioimiensa syötteiden yläpuolella "käyttäjämuistojen yhteenvedon", joka saattaa paljastaa henkilön ammatin, yleisen sijainnin tai aiemmista keskusteluista peräisin olevan taustan. "En usko heidän kuvittelevan, että joku alihankkija jossain analysoi heidän keskustelujaan", eräs työntekijä sanoi 404 Medialle viitaten ChatGPT:n yli 900 miljoonaan käyttäjään.404media+2

Oikeudelliset seuraukset

Paljastukset ovat jo käynnistäneet oikeustoimia. Law360-sivuston mukaan kaksi ChatGPT-käyttäjää nosti keskiviikkona ryhmäkanteen OpenAI:ta vastaan väittäen yhtiön johtaneen heitä harhaan keskustelujen yksityisyydestä. Kanne paisuttaa OpenAI:n ennestään laajaa oikeusjuttujen listaa. Yhtiö puolustautuu jo nyt kuolemantuottamuskanteilta, tekijänoikeusvaatimuksilta sekä erilliseltä Kalifornian yksityisyysjutulta, joka koskee kolmansille osapuolille upotettujen seurantatyökalujen kautta jaettuja tietoja.mediapost+2

Euroopassa paljastus lisää entisestään sääntelypaineita. Italian tietosuojaviranomainen on jo sakottanut OpenAI:ta 15 miljoonalla eurolla pääasiassa käyttäjätietojen käsittelystä ilman asianmukaista oikeusperustaa, ja Euroopan unionin tuomioistuimen ratkaisu asiassa EDPS v. SRB vahvisti, että yrityksen velvollisuus tiedottaa käyttäjiä pätee tietojen keräämishetkellä.thenextweb+1

Miten kieltäytyä tiedonkeruusta

ChatGPT:n ilmais-, Plus- ja Pro-tileillä asetus "Paranna mallia kaikille" on oletusarvoisesti käytössä; Enterprise-, Business- ja Education-tasoilla se ei ole. Käyttäjien, jotka haluavat estää tulevien keskustelujensa päätymisen arvioijille, on poistettava asetus manuaalisesti käytöstä kohdasta Asetukset ja Tietojen hallinta. Kieltäytyminen ei kuitenkaan ole takautuvaa, mikä tarkoittaa, että vanhempia keskusteluja voidaan edelleen käyttää.pcmag+1