ChatGPT-brukere saksøker OpenAI etter avsløringer om Project Lily

OpenAI har betalt hundrevis av kontraktører over 50 dollar i timen for å lese, oppsummere og vurdere ekte ChatGPT-samtaler som en del av et internt program med kodenavnet Project Lily. Dette avslørte en undersøkelse fra 404 Media denne uken, noe som førte til et foreslått gruppesøksmål levert onsdag av to ChatGPT-brukere som hevder selskapet villedet dem om personvernet i samtalene deres.404media+1

Innsiden av Project Lily

Undersøkelsen, som ble publisert av 404 Media-journalist Joseph Cox 14. september og er basert på lekkede interne dokumenter og ekte brukerprompter, beskriver en strukturert vurderingsprosess. Her leser kontraktører en brukers ledetekst (prompt), oppsummerer brukerens hensikt, sammenligner fire ChatGPT-genererte svar og vurderer dem på en skala fra én til syv. Vurdererne sjekker ikke om faktaene stemmer. I stedet blir de i lekkede opplæringsmanualer instruert til å straffe "AI-språk", flagge svar der chatboten utgir seg for å være menneske, og straffe overdrevent innsmigrende svar: et adferdsmønster OpenAI har knyttet til reell skade i andre rettssaker.aiweekly+2

OpenAI fjerner brukernavn og kjører ledetekstene gjennom et automatisert personvernfilter før de når vurdererne. Selskapet innrømmet imidlertid overfor 404 Media at filteret ikke er perfekt. Kontraktører rapporterte at de så et "sammendrag av brukerminner" vist over ledetekstene de vurderte, noe som kunne avsløre en persons yrke, generelle plassering eller personlige bakgrunn hentet fra tidligere samtaler. "Jeg tror ikke de forestiller seg at en kontraktør et eller annet sted sitter og analyserer samtalene," sa en arbeider til 404 Media, med henvisning til ChatGPTs over 900 millioner brukere.404media+2

Rettslige etterspill

Avsløringene har allerede ført til rettslige skritt. Ifølge Law360 saksøkte to ChatGPT-brukere OpenAI onsdag med krav om gruppesøksmål, der de hevder at selskapet villedet dem om hvor private samtalene deres var. Søksmålet føyer seg inn i en voksende rekke av rettssaker mot OpenAI, som allerede forsvarer seg mot søksmål om uaktsomt død, brudd på opphavsretten og en separat personvernsak i California om data som deles med tredjeparter gjennom innebygde sporingsverktøy.mediapost+2

I Europa forsterker avsløringen det eksisterende regulatoriske presset. Italias datatilsyn har allerede bøtelagt OpenAI med 15 million euro, i hovedsak for å behandle brukerdata uten tilstrekkelig rettslig grunnlag, og EU-domstolens avgjørelse i saken EDPS mot SRB slo fast at et selskaps informasjonsplikt overfor brukerne gjelder på tidspunktet for datainnsamlingen.thenextweb+1

Slik reserverer du deg

Gratis-, Plus- og Pro-kontoer hos ChatGPT har innstillingen "Forbedre modellen for alle" aktivert som standard; Enterprise-, Business- og Education-nivåene har det ikke. Brukere som ønsker å forhindre at fremtidige samtaler når vurdererne, må deaktivere dette manuelt under Innstillinger og Datakontroll. Men reservasjonen har ikke tilbakevirkende kraft, noe som betyr at eldre samtaler fortsatt kan bli brukt.pcmag+1