Notendur ChatGPT höfða hópmál vegna skoðunar á spjallferlum

OpenAI hefur greitt hundruðum verktaka meira en 50 dali á tímann til að lesa, draga saman og gefa raunverulegum ChatGPT-spjallferlum einkunn sem hluta af innra verkefni undir dulnefninu Project Lily. Þetta leiddi rannsókn 404 Media í ljós í þessari viku, sem varð til þess að tveir ChatGPT-notendur lögðu fram drög að hópmálsókn á miðvikudag þar sem þeir halda því fram að fyrirtækið hafi blekkt þá varðandi persónuvernd spjallferla þeirra.404media+1

Hvað felst í Project Lily?

Rannsóknin, sem blaðamaðurinn Joseph Cox hjá 404 Media birti þann 14. september og byggir á lekum innri skjölum og raunverulegum fyrirspurnum notenda, lýsir skipulögðu ferli þar sem verktakar lesa fyrirspurnir notenda, draga saman tilgang þeirra, bera saman fjögur svör frá ChatGPT og gefa þeim einkunn á skalanum einn til sjö. Yfirlesararnir eru ekki að athuga hvort upplýsingarnar séu réttar. Þess í stað sýna lekin þjálfunargögn að þeim er uppálagt að refsa fyrir „gervigreindarmálfar“, flagga svörum þar sem spjallbotinn þykist vera mannlegur og refsa fyrir of smjaðursleg svör: hegðunarmynstur sem OpenAI hefur sjálft tengt við raunverulegan skaða í öðrum málaferlum.aiweekly+2

OpenAI fjarlægir notendanöfn og keyrir fyrirspurnir í gegnum sjálfvirka persónuverndarsíu áður en þær berast til yfirlesara. Fyrirtækið viðurkenndi hins vegar við 404 Media að sían væri ekki fullkomin. Verktakar sögðust hafa séð „samantekt á minni notanda“ birtast fyrir ofan fyrirspurnirnar sem þeir yfirfóru, sem gæti afhjúpað starf viðkomandi, almenna staðsetningu eða persónulegan bakgrunn úr fyrri samtölum. „Ég held að fólk ímyndi sér ekki að einhver verktaki einhvers staðar sé að greina samtölin,“ sagði einn starfsmaður við 404 Media og vísaði til þeirra meira en 900 milljóna notenda sem ChatGPT hefur.404media+2

Lagaleg eftirmál

Þessar ljóstranir hafa þegar leitt til lagalegra eftirmála. Samkvæmt Law360 lögðu tveir ChatGPT-notendur fram drög að hópmálsókn gegn OpenAI á miðvikudag og halda því fram að fyrirtækið hafi blekkt þá varðandi það hversu trúnaðarmál samtöl þeirra væru. Málsóknin bætist við vaxandi fjölda málaferla sem OpenAI stendur frammi fyrir, en fyrirtækið ver sig þegar gegn málum vegna manndráps af gáleysi, höfundarréttarbrotum og sérstöku persónuverndarmáli í Kaliforníu vegna gagna sem deilt var með þriðja aðila í gegnum innbyggð rakningartól.mediapost+2

Í Evrópu eykur þessi uppljóstrun á þrýsting frá eftirlitsaðilum. Persónuverndaryfirvöld á Ítalíu hafa þegar sektað OpenAI um 15 milljónir evra, aðallega fyrir að vinna úr gögnum notenda án fullnægjandi lagagrundvallar, og dómur Evrópudómstólsins í málinu EDPS gegn SRB staðfesti að upplýsingaskylda fyrirtækis gagnvart notendum gildi þegar við söfnun gagna.thenextweb+1

Hvernig á að afþakka

Í ókeypis, Plus og Pro reikningum ChatGPT og stillingin „Bæta líkanið fyrir alla“ (e. Improve the model for everyone) sjálfgefið virkjuð, en hún er óvirk í Enterprise, Business og Education útgáfunum. Notendur sem vilja koma í veg fyrir að framtíðarsamtöl berist til yfirlesara verða að slökkva handvirkt á þessum valkosti undir Stillingar og Gagnastýring (e. Settings and Data Controls). Sú ákvörðun gildir hins vegar ekki afturvirkt, sem þýðir að eldri samtöl gætu enn verið notuð.pcmag+1