OpenAI:n alihankkijat lukevat ChatGPT:n keskusteluja salaisessa Lily-projektissa

Satoja OpenAI:n palkkaamia ulkopuolisia alihankkijoita lukee ChatGPT:n todellisia keskusteluja osana sisäistä Lily-projekti-nimistä aloitetta, kertoo 404 Median tutkimus, joka herättää uusia kysymyksiä yli 900 miljoonan ChatGPT-käyttäjän yksityisyydestä.

Alihankkijat, joille maksetaan yli 50 dollaria tunnilta kolmannen osapuolen henkilöstötoimistojen kautta, lukevat käyttäjien kehotteita, tiivistävät käyttäjän aikeet ja arvioivat neljä ChatGPT:n tuottamaa vastausta asteikolla yhdestä seitsemään. Tavoitteena on saada chatbot kuulostamaan vähemmän robottimaiselta, vähemmän mielistelevältä ja luonnollisemmalta, mutta prosessi tarkoittaa, että arkaluonteiset henkilötiedot, joita monet käyttäjät jakavat yksityisinä pitämissään keskusteluissa, voivat päätyä ihmisten nähtäväksi.404media

Mitä alihankkijat näkevät

404 Median hankkimat sisäiset asiakirjat ja ohjeistukset paljastavat, että alihankkijoiden hallintapaneeli sisältää toisinaan yhteenvedon käyttäjän muistoista, eli yleiskatsauksen siitä, mitä käyttäjä on aiemmin keskustellut ChatGPT:n kanssa. Tämä voi paljastaa käyttäjän likimääräisen sijainnin, ammatin tai henkilökohtaiset olosuhteet. OpenAI sanoo poistavansa käyttäjänimet ja ajavansa keskustelut automaattisen tietosuojasuodattimen läpi ennen kuin ne päätyvät arvioijille, mutta yhtiö myöntää, että suodatin voi ohittaa harvinaisia tunnisteita tai epäselviä yksityisiä viittauksia.404media

Jotkut alihankkijoiden näkemät kehotteet sisälsivät käyttäjien pyyntöjä pitää keskustelu omana tietonaan, tietämättä, etteivät tällaiset ohjeet ohita alustan tiedonkeruukäytäntöjä. Ei, eräs alihankkija vastasi 404 Medialle kysyttäessä, ymmärtävätkö ChatGPT:n käyttäjät, että ihmiset saattavat lukea heidän keskustelujaan. En usko, että he kuvittelevat jonkun alihankkijan jossain analysoivan keskusteluja.tomsguide+1

Koulutussäännöt ja alan käytännöt

Ohjeistukset neuvovat arvioijia rankaisemaan tekoälymäisestä kielestä, kuten tarpeettomasta emojien käytöstä, merkitsemään vastaukset, joissa ChatGPT väittää omaavansa inhimillisiä kokemuksia, sekä tunnistamaan mielistelevän kielen. Tämä on tunnettu ongelma, joka on yhdistetty oikeusjuttuihin, joissa väitetään liian myötäilevän ChatGPT-mallin aiheuttaneen haittaa käyttäjille. Arvioijien ei odoteta tarkistavan faktoja, mutta heitä kehotetaan merkitsemään huomaamansa asiavirheet ja nostamaan esiin tehtävät, jotka sisältävät henkilötietoja tai turvallisuushuolia.404media

Käytäntö ei ole ainutlaatuinen OpenAI:lle. Anthropic vahvisti 404 Medialle käyttävänsä ihmisarviointia Clauden parantamiseen, kun käyttäjät jättävät koulutuksen päälle, ja Googlen Alphabet Inc. ↗ 1.18% Gemini näyttää vastuuvapauslausekkeen, jonka mukaan ihmiset tarkistavat joitakin tallennettuja keskusteluja.tomsguide+1

Miten kieltäytyä koulutuksesta

ChatGPT:n ilmais-, Plus- ja Pro-tileillä mallin parantaminen on oletusarvoisesti päällä. Käyttäjät voivat poistaa sen käytöstä siirtymällä asetuksiin, valitsemalla tietojen hallinnan ja kytkemällä pois päältä kohdan Paranna mallia kaikkien puolesta. Enterprise-, Business- ja Edu-tileillä asetus on oletusarvoisesti pois päältä. Kieltäytyminen koskee vain uusia keskusteluja; jo tunnistetiedot poistetut ja jonossa olevat kehotteet pysyvät koulutusputkessa.tomsguide+1

Sen jälkeen kun 404 Media otti yhteyttä yhtiöön, OpenAI päivitti ohjesivuaan lisätäkseen tietoja kieltäytymisprosessista, vaikka se ei vieläkään nimenomaisesti myönnä, että ihmiset saattavat lukea käyttäjien kehotteita.404media