OpenAI-entreprenörer läser riktiga ChatGPT-chattar i hemligt projekt

Hundratals externa entreprenörer anlitade av OpenAI läser riktiga ChatGPT-konversationer som en del av ett internt initiativ med kodnamnet "Project Lily," enligt en granskning från 404 Media som väcker nya frågor om integriteten för mer än 900 miljoner ChatGPT-användare.

Entreprenörerna, som får betalt mer än 50 dollar i timmen via bemanningsföretag, läser användarprompter, sammanfattar användarens avsikt och betygsätter sedan fyra ChatGPT-genererade svar på en skala från ett till sju. Målet är att få chatboten att låta mindre robotaktig, mindre smickrande och mer naturlig, men processen innebär att känsliga personuppgifter som delas i vad många användare betraktar som privata samtal kan hamna framför mänskliga ögon.404media

Vad entreprenörerna ser

Interna dokument och instruktionsguider som 404 Media tagit del av avslöjar att entreprenörernas instrumentpanel ibland innehåller en "användarminnessammanfattning" – en översikt över vad en användare tidigare diskuterat med ChatGPT, vilket kan avslöja deras ungefärliga plats, yrke eller personliga omständigheter. OpenAI säger att de tar bort användarnamn och kör konversationer genom ett automatiserat "integritetsfilter" innan de når granskarna, men företaget medger att filtret "kan missa ovanliga identifierare eller tvetydiga privata referenser."404media

Vissa prompter som entreprenörer sett visade användare som bad ChatGPT att "hålla detta mellan oss," ovetande om att sådana instruktioner inte åsidosätter plattformens praxis för datainsamling. "Nej," sa en entreprenör till 404 Media när hen fick frågan om ChatGPT-användare inser att människor kan läsa deras chattar. "Jag tror inte att de skulle föreställa sig att någon entreprenör någonstans analyserar konversationerna."tomsguide+1

Träningsregler och branschpraxis

Instruktionsguider ber granskare att straffa "AI-språk" som onödig användning av emojis, flagga svar där ChatGPT gör anspråk på mänskliga upplevelser och markera smickrande språk – ett känt problem kopplat till stämningar som hävdar att en alltför tillmötesgående ChatGPT-modell bidragit till skada för användare. Granskare förväntas inte faktagranska svar men uppmanas att flagga faktiska fel de märker och eskalera uppgifter som innehåller personlig information eller säkerhetsfrågor.404media

Praxis är inte unik för OpenAI. Anthropic bekräftade för 404 Media att de använder mänsklig granskning för att förbättra Claude när användare låter träning vara aktiverad, och Googles Alphabet Inc. ↗ 0.78% Gemini visar en friskrivning om att "människor granskar vissa sparade chattar."tomsguide+1

Hur man väljer bort

För gratis-, Plus- och Pro-konton på ChatGPT är modellförbättring aktiverat som standard. Användare kan inaktivera det genom att gå till Inställningar, välja Datakontroller och stänga av "Förbättra modellen för alla." Enterprise-, Business- och Edu-konton har inställningen avstängd som standard. Bortvalet gäller endast nya konversationer – prompter som redan avidentifierats och köats förblir i träningspipelinen.tomsguide+1

Efter att 404 Media kontaktat företaget uppdaterade OpenAI sin hjälpsida för att lägga till mer detaljer om bortvalsprocessen, även om den fortfarande inte uttryckligen erkänner att människor kan läsa användarnas prompter.404media