Dodavatelé OpenAI čtou skutečné chaty v rámci tajného projektu Project Lily

Stovky externích dodavatelů najatých společností OpenAI čtou skutečné konverzace v ChatGPT v rámci interní iniciativy s kódovým označením "Project Lily," uvádí vyšetřování 404 Media, které vyvolává nové otázky ohledně soukromí více než 900 milionů uživatelů ChatGPT.

Dodavatelé, kterým prostřednictvím personálních agentur třetích stran platí více než 50 dolarů za hodinu, čtou uživatelské výzvy, shrnují záměr uživatele a poté hodnotí čtyři odpovědi vygenerované ChatGPT na stupnici od jedné do sedmi. Cílem je, aby chatbot zněl méně roboticky, méně servilně a přirozeněji, ale tento proces znamená, že citlivé osobní údaje sdílené v konverzacích, které mnozí uživatelé považují za soukromé, mohou skončit před lidskýma očima.404media

Co dodavatelé vidí

Interní dokumenty a návody získané 404 Media odhalují, že ovládací panel dodavatelů někdy obsahuje "shrnutí vzpomínek uživatele" — přehled toho, co uživatel dříve s ChatGPT probíral, což může odhalit jeho přibližnou polohu, profesi nebo osobní okolnosti. OpenAI uvádí, že předtím, než se konverzace dostanou k recenzentům, odstraňuje uživatelská jména a provádí je automatizovaným "filtrem soukromí," ale společnost přiznává, že filtr "může přehlédnout neobvyklé identifikátory nebo nejednoznačné soukromé odkazy."404media

Některé výzvy, které dodavatelé viděli, ukazovaly uživatele, kteří žádali ChatGPT, aby "to nechal mezi námi," aniž by věděli, že takové pokyny nepřevažují nad postupy sběru dat platformy. "Ne," odpověděl jeden dodavatel pro 404 Media na otázku, zda si uživatelé ChatGPT uvědomují, že lidé mohou číst jejich chaty. "Nemyslím si, že by si představovali, že nějaký dodavatel někde analyzuje tyto konverzace."tomsguide+1

Pravidla trénování a průmyslová praxe

Návody říkají recenzentům, aby penalizovali "AI-řeč," jako je zbytečné používání emotikonů, aby označovali odpovědi, kde ChatGPT tvrdí, že má lidské zkušenosti, a aby označovali servilní jazyk — známý problém spojený se žalobami, které tvrdí, že příliš přizpůsobivý model ChatGPT přispěl k poškození uživatelů. Od recenzentů se neočekává, že budou ověřovat fakta, ale mají za úkol označovat faktické chyby, kterých si všimnou, a eskalovat úkoly obsahující osobní údaje nebo bezpečnostní obavy.404media

Tato praxe není pro OpenAI jedinečná. Anthropic potvrdil 404 Media, že využívá lidskou kontrolu ke zlepšení modelu Claude, když uživatelé ponechají trénování zapnuté, a Gemini od společnosti Alphabet Inc. ↗ 2.82% zobrazuje prohlášení, že "lidé kontrolují některé uložené chaty."tomsguide+1

Jak se odhlásit

U bezplatných, Plus a Pro účtů ChatGPT je vylepšování modelu ve výchozím nastavení zapnuto. Uživatelé jej mohou zakázat v Nastavení, výběrem Ovládání dat a vypnutím možnosti "Vylepšit model pro všechny." Účty Enterprise, Business a Edu mají toto nastavení ve výchozím nastavení vypnuté. Odhlášení se vztahuje pouze na nové konverzace — výzvy, které již byly anonymizovány a zařazeny do fronty, zůstávají v tréninkovém procesu.tomsguide+1

Poté, co 404 Media kontaktovala společnost, OpenAI aktualizovala svou stránku nápovědy, aby přidala více podrobností o procesu odhlášení, i když stále výslovně nepřiznává, že lidé mohou číst výzvy uživatelů.404media