Verktakar hjá OpenAI lesa raunveruleg ChatGPT-samtöl undir leyninafninu Project Lily

Hundruð verktaka sem OpenAI hefur ráðið eru að lesa raunveruleg ChatGPT-samtöl sem hluta af innra verkefni sem ber heitið "Project Lily," samkvæmt rannsókn 404 Media sem vekur nýjar spurningar um friðhelgi einkalífs yfir 900 milljóna ChatGPT-notenda.

Verktakarnir, sem fá greitt meira en 50 dollara á tímann í gegnum þriðja aðila, lesa fyrirspurnir notenda, draga saman ætlun þeirra og meta síðan fjögur svör frá ChatGPT á kvarðanum einn til sjö. Markmiðið er að láta spjallmennið hljóma minna vélrænt, minna undirlægjulegt og eðlilegra, en ferlið þýðir að viðkvæmar persónuupplýsingar sem fólk deilir í því sem það telur vera einkasamtöl geta endað fyrir augum manna.404media

Hvað verktakar sjá

Innri skjöl og leiðbeiningar sem 404 Media komst yfir sýna að mælaborð verktaka inniheldur stundum "samantekt á minningum notanda" — yfirlit yfir það sem notandi hefur áður rætt við ChatGPT, sem getur leitt í ljós staðsetningu, starfsgrein eða persónulegar aðstæður. OpenAI segir að þeir fjarlægi notendanöfn og keyri samtöl í gegnum sjálfvirka "persónuverndarsíu" áður en þau berast til yfirferðar, en fyrirtækið viðurkennir að sían "geti misst af óalgengum auðkennum eða óljósum einkatilvísunum."404media

Sumar fyrirspurnir sem verktakar sáu sýndu notendur biðja ChatGPT um að "halda þessu okkar á milli," óvitandi um að slík fyrirmæli yfirgnæfa ekki gagnasöfnunaraðferðir vettvangsins. "Nei," sagði einn verktaki við 404 Media þegar hann var spurður hvort ChatGPT-notendur geri sér grein fyrir því að menn gætu verið að lesa samtöl þeirra. "Ég held ekki að þeir ímyndi sér að einhver verktaki einhvers staðar sé að greina samtölin."tomsguide+1

Þjálfunarreglur og iðnaðarvenjur

Leiðbeiningar segja yfirferðarfólki að refsa fyrir "AI-tal" eins og óþarfa notkun á emojis, að flagga svörum þar sem ChatGPT þykist hafa mannlega reynslu, og að merkja undirlægjulegt tungumál — þekkt vandamál sem tengist málsóknum þar sem því er haldið fram að of samþykklynt ChatGPT-líkan hafi valdið notendum skaða. Ekki er ætlast til að yfirferðarfólk staðreyni svör, en þeim er sagt að flagga staðreyndavillum sem þau taka eftir og koma verkefnum sem innihalda persónuupplýsingar eða öryggisáhyggjur áleiðis.404media

Þessi háttur er ekki bundinn við OpenAI. Anthropic staðfesti við 404 Media að þeir noti mannlega yfirferð til að bæta Claude þegar notendur hafa þjálfun virka, og Gemini frá Alphabet Inc. ↗ 0.78% sýnir fyrirvara um að "menn fari yfir sum vistuð samtöl."tomsguide+1

Hvernig á að afþakka

Fyrir ókeypis, Plus og Pro ChatGPT-reikninga er líkanabæting virk sjálfgefið. Notendur geta slökkt á því með því að fara í Stillingar, velja Gagnastýringar og slökkva á "Bæta líkanið fyrir alla." Enterprise, Business og Edu-reikningar hafa stillinguna óvirka sjálfgefið. Afþökkunin gildir aðeins um ný samtöl — fyrirspurnir sem þegar hafa verið afauðkenndar og eru í biðröð haldast í þjálfunarferlinu.tomsguide+1

Eftir að 404 Media hafði samband við fyrirtækið uppfærði OpenAI hjálparsíðu sína til að bæta við nánari upplýsingum um afþökkunarferlið, þótt það viðurkenni enn ekki beinlínis að menn gætu lesið fyrirspurnir notenda.404media