OpenAI-kontraktører leser ekte ChatGPT-samtaler under hemmelig prosjekt

Hundrevis av eksterne kontraktører leid inn av OpenAI leser ekte ChatGPT-samtaler som en del av et internt initiativ med kodenavnet "Project Lily," ifølge en undersøkelse fra 404 Media som reiser nye spørsmål om personvernet til mer enn 900 millioner ChatGPT-brukere.

Kontraktørene, som får betalt over 50 dollar i timen gjennom tredjeparts bemanningsbyråer, leser brukerforespørsler, oppsummerer brukerens intensjon og vurderer fire ChatGPT-genererte svar på en skala fra én til sju. Målet er å få chatboten til å høres mindre robotaktig, mindre smiskende og mer naturlig ut, men prosessen betyr at sensitive personopplysninger som deles i det mange brukere anser som private samtaler, kan ende opp foran menneskelige øyne.404media

Hva kontraktørene ser

Interne dokumenter og instruksjonsguider innhentet av 404 Media avslører at kontraktørenes dashbord noen ganger inkluderer et "brukerhukommelsessammendrag" – en oversikt over hva en bruker tidligere har diskutert med ChatGPT, som kan avsløre omtrentlig lokasjon, yrke eller personlige forhold. OpenAI sier de fjerner brukernavn og kjører samtaler gjennom et automatisert "personvernfilter" før de når anmelderne, men selskapet innrømmer at filteret "kan overse uvanlige identifikatorer eller tvetydige private referanser."404media

Noen forespørsler sett av kontraktører viste brukere som ba ChatGPT om å "holde dette mellom oss," uvitende om at slike instruksjoner ikke overstyrer plattformens praksis for datainnsamling. "Nei," sa en kontraktør til 404 Media da vedkommende ble spurt om ChatGPT-brukere forstår at mennesker kan lese samtalene deres. "Jeg tror ikke de ville forestilt seg at en eller annen kontraktør et sted analyserer samtalene."tomsguide+1

Treningsregler og bransjepraksis

Instruksjonsguider ber anmeldere om å straffe "AI-språk" som unødvendig bruk av emojier, flagge svar der ChatGPT hevder å ha menneskelige erfaringer, og markere smiskende språk – et kjent problem knyttet til søksmål som hevder at en altfor medgjørlig ChatGPT-modell bidro til skade for brukere. Anmeldere forventes ikke å faktasjekke svar, men blir bedt om å flagge faktiske feil de legger merke til og eskalere oppgaver som inneholder personlig informasjon eller sikkerhetshensyn.404media

Praksisen er ikke unik for OpenAI. Anthropic bekreftet overfor 404 Media at de bruker menneskelig gjennomgang for å forbedre Claude når brukere lar trening være aktivert, og Googles Alphabet Inc. ↗ 3.06% Gemini viser en ansvarsfraskrivelse om at "mennesker gjennomgår enkelte lagrede chatter."tomsguide+1

Hvordan reservere seg

For gratis-, Plus- og Pro-kontoer på ChatGPT er modellforbedring aktivert som standard. Brukere kan deaktivere dette ved å gå til Innstillinger, velge Datakontroller og slå av "Forbedre modellen for alle." Enterprise-, Business- og Edu-kontoer har innstillingen av som standard. Reservasjonen gjelder kun for nye samtaler – forespørsler som allerede er avidentifisert og satt i kø, forblir i treningsløpet.tomsguide+1

Etter at 404 Media kontaktet selskapet, oppdaterte OpenAI hjelpesiden sin for å legge til flere detaljer om reservasjons prosessen, selv om den fortsatt ikke eksplisitt anerkjenner at mennesker kan lese brukernes forespørsler.404media