„OpenAI“ rangdaliai skaito tikrus „ChatGPT“ pokalbius vykdydami slaptą „Project Lily“

Šimtai „OpenAI“ pasamdytų išorės rangovų skaito tikrus „ChatGPT“ pokalbius vykdydami vidinę iniciatyvą, kodiniu pavadinimu „Project Lily“, rodo „404 Media“ tyrimas, keliantis naujų klausimų dėl daugiau nei 900 milijonų „ChatGPT“ vartotojų privatumo.

Rangovai, per trečiųjų šalių personalo įmones gaunantys daugiau nei 50 JAV dolerių per valandą, skaito vartotojų užklausas, apibendrina vartotojo ketinimus ir vertina keturis „ChatGPT“ sugeneruotus atsakymus skalėje nuo vieno iki septynių. Tikslas – kad pokalbių robotas skambėtų mažiau robotiškai, mažiau pataikūniškai ir natūraliau, tačiau šis procesas reiškia, kad jautri asmeninė informacija, kuria dalijamasi pokalbiuose, kuriuos daugelis vartotojų laiko privačiais, gali atsidurti prieš žmonių akis.404media

Ką mato rangovai

„404 Media“ gauti vidiniai dokumentai ir instrukcijos atskleidžia, kad rangovų prietaisų skydelyje kartais pateikiama „vartotojo atminties santrauka“ – apžvalga to, ką vartotojas anksčiau aptarė su „ChatGPT“, o tai gali atskleisti apytikslę buvimo vietą, profesiją ar asmenines aplinkybes. „OpenAI“ teigia, kad prieš peržiūrą pašalina vartotojų vardus ir praleidžia pokalbius per automatizuotą „privatumo filtrą“, tačiau bendrovė pripažįsta, kad filtras „gali praleisti neįprastus identifikatorius ar dviprasmiškas privačias nuorodas“.404media

Kai kurios rangovų matytos užklausos rodė, kad vartotojai prašė „ChatGPT“ „pasilikti tai tarp mūsų“, nežinodami, kad tokie nurodymai nepanaikina platformos duomenų rinkimo praktikos. „Ne“, – atsakė vienas rangovas „404 Media“ paklaustas, ar „ChatGPT“ vartotojai supranta, kad žmonės gali skaityti jų pokalbius. „Nemanau, kad jie įsivaizduoja, jog kažkoks rangovas kažkur analizuoja šiuos pokalbius.“tomsguide+1

Mokymo taisyklės ir pramonės praktika

Instrukcijose nurodoma vertintojams bausti už „dirbtinio intelekto kalbą“, pavyzdžiui, nereikalingą jaustukų naudojimą, žymėti atsakymus, kuriuose „ChatGPT“ teigia turintis žmogiškos patirties, ir pažymėti pataikūnišką kalbą – žinomą problemą, susijusią su ieškiniais, kuriuose teigiama, kad pernelyg sutinkantis „ChatGPT“ modelis pakenkė vartotojams. Iš vertintojų nesitikima faktų tikrinimo, tačiau jiems nurodyta žymėti pastebėtas faktines klaidas ir perduoti užduotis, kuriose yra asmeninės informacijos ar saugumo problemų.404media

Ši praktika nėra būdinga tik „OpenAI“. „Anthropic“ patvirtino „404 Media“, kad naudoja žmonių peržiūrą „Claude“ tobulinimui, kai vartotojai palieka įjungtą mokymą, o „Google“ priklausanti „Alphabet Inc.“ ↘ 1.24% „Gemini“ rodo atsisakymą, kad „žmonės peržiūri kai kuriuos išsaugotus pokalbius“.tomsguide+1

Kaip atsisakyti

Nemokamoms, „Plus“ ir „Pro“ „ChatGPT“ paskyroms modelio tobulinimas įjungtas pagal numatytuosius nustatymus. Vartotojai gali jį išjungti nuėję į nustatymus, pasirinkę duomenų valdymą ir išjungę „Tobulinti modelį visiems“. „Enterprise“, „Business“ ir „Edu“ paskyrose šis nustatymas pagal numatytuosius nustatymus yra išjungtas. Atsisakymas taikomas tik naujiems pokalbiams – užklausos, kurios jau buvo anonimizuotos ir įtrauktos į eilę, lieka mokymo procese.tomsguide+1

Po to, kai „404 Media“ susisiekė su bendrove, „OpenAI“ atnaujino savo pagalbos puslapį, pridėdama daugiau informacijos apie atsisakymo procesą, nors vis dar aiškiai nepripažįsta, kad žmonės gali skaityti vartotojų užklausas.404media