ChatGPT-användare stämmer OpenAI efter avslöjanden om Project Lily

OpenAI har betalat hundratals underleverantörer över 50 dollar i timmen för å läsa, sammanfatta och bedöma verkliga ChatGPT-konversationer som en del av ett internt program med kodnamnet Project Lily. Detta avslöjades i veckan i en granskning av 404 Media, vilket ledde till att två ChatGPT-användare på onsdagen lämnade in en begäran om grupptalan där de hävdar att företaget vilselett dem om integriteten i deras konversationer.404media+1

Bakom kulisserna i Project Lily

Granskningen, som publicerades av 404 Media-journalisten Joseph Cox den 14 september och bygger på läckta interna dokument och verkliga användarprompter, beskriver en strukturerad granskningsprocess. Där läser underleverantörer en användares prompt, sammanfattar användarens avsikt, jämför fyra ChatGPT-genererade svar och poängsätter dem på en skala från ett till sju. Granskarna kontrollerar inte om fakta stämmer. Istället instrueras de i läckta utbildningsguider att straffa "AI-språk", flagga svar där chatboten påstår sig vara mänsklig och straffa överdrivet inställsamma svar: ett beteendemönster som OpenAI har kopplat till verklig skada i andra rättstvister.aiweekly+2

OpenAI tar bort användarnamn och kör prompter genom ett automatiskt integritetsfilter innan de når granskarna. Men företaget medgav för 404 Media att filtret inte är perfekt. Underleverantörer rapporterade att de såg en "sammanfattning av användarminnen" ovanför prompterna de granskade, vilket kunde avslöja en persons yrke, ungefärliga plats eller personliga bakgrund hämtad från tidigare konversationer. "Jag tror inte att de föreställer sig att någon underleverantör någonstans sitter och analyserar konversationerna", sa en arbetare till 404 Media, med hänvisning till ChatGPT:s över 900 miljoner användare.404media+2

Rättsliga efterspel

Avslöjandena har redan lett till rättsliga åtgärder. Enligt Law360 lämnade två ChatGPT-användare på onsdagen in en begäran om grupptalan mot OpenAI, med anklagelser om att företaget vilselett dem om hur privata deras konversationer var. Stämningen läggs till en växande lista av rättstvister mot OpenAI, som redan försvarar sig mot stämningar gällande vållande till annans död, upphovsrättsintrång och ett separat integritetsfall i Kalifornien om data som delas med tredje part via inbäddade spårningsverktyg.mediapost+2

I Europa ökar avslöjandet det regulatoriska trycket ytterligare. Italiens dataskyddsmyndighet har redan bötfällt OpenAI med 15 miljoner euro, främst för att ha behandlat användardata utan tillräcklig laglig grund, och EU-domstolens dom i målet EDPS mot SRB slog fast att ett företags skyldighet att informera användare gäller vid tidpunkten för datainsamlingen.thenextweb+1

Så väljer du bort granskningen

Gratis-, Plus- och Pro-konton på ChatGPT har inställningen "Förbättra modellen för alla" aktiverad som standard; Enterprise-, Business- och Education-nivåerna har det inte. Användare som vill förhindra att framtida konversationer når granskare måste inaktivera detta manuellt under Inställningar och Datakontroll. Men att välja bort detta har inte retroaktiv verkan, vilket innebär att äldre konversationer fortfarande kan användas.pcmag+1