Uživatelé ChatGPT podali hromadnou žalobu kvůli projektu Lily na kontrolu chatů

Společnost OpenAI platí stovkám externích spolupracovníků přes 50 dolarů za hodinu za to, že čtou, shrnují a hodnotí reálné konverzace v ChatGPT. Tento interní program nese kódové označení Project Lily. Vyplývá to z vyšetřování serveru 404 Media z tohoto týdne, které vedlo k podání návrhu na hromadnou žalobu. Tu ve středu podali dva uživatelé ChatGPT, podle nichž je firma uvedla v omyl ohledně zabezpečení soukromí jejich konverzací.404media+1

Jak funguje Project Lily

Vyšetřování, které 14. září zveřejnil novinář serveru 404 Media Joseph Cox na základě uniklých interních dokumentů a reálných uživatelských dotazů, popisuje strukturovaný proces hodnocení. V něm externí pracovníci čtou dotazy uživatelů, shrnují jejich záměr, porovnávají čtyři odpovědi vygenerované ChatGPT a hodnotí je na škále od jedné do sedmi. Hodnotitelé nekontrolují věcnou správnost. Uniklé školicí příručky jim naopak ukládají penalizovat „typický styl umělé inteligence“, označovat odpovědi, v nichž chatbot tvrdí, že je člověk, a trestat přehnaně podlézavé reakce. To je vzorec chování, který OpenAI v jiných soudních sporech sama spojila s rizikem reálné újmy.aiweekly+2

OpenAI sice odstraňuje uživatelská jména a dotazy před předáním hodnotitelům filtruje pomocí automatického nástroje na ochranu soukromí, společnost však pro 404 Media přiznala, že tento filtr není dokonalý. Hodnotitelé uvedli, že nad posuzovanými dotazy viděli zobrazený „přehled paměti uživatele“, který mohl odhalit jeho profesi, přibližnou polohu nebo osobní zázemí čerpající z předchozích konverzací. „Nemyslím si, že by je napadlo, že nějaký externista někde analyzuje jejich konverzace,“ řekl serveru 404 Media jeden z pracovníků s odkazem na více než 900 milionů uživatelů ChatGPT.404media+2

Právní následky

Tato odhalení již vyvolala právní kroky. Podle serveru Law360 podala dvojice uživatelů ChatGPT ve středu návrh na hromadnou žalobu na OpenAI s tvrzením, že je společnost uvedla v omyl ohledně míry soukromí jejich konverzací. Žaloba rozšiřuje už tak dlouhý seznam sporů, kterým OpenAI čelí. Firma se již brání žalobám kvůli neoprávněnému úmrtí, porušení autorských práv a samostatnému kalifornskému případu ochrany osobních údajů, který se týká dat sdílených s třetími stranami prostřednictvím integrovaných sledovacích nástrojů.mediapost+2

V Evropě toto odhalení zvyšuje stávající tlak ze strany regulačních orgánů. Italský úřad pro ochranu osobních údajů již udělil OpenAI pokutu ve výši 15 milionů eur, převážně za zpracování údajů uživatelů bez dostatečného právního základu. Rozhodnutí Soudního dvora ve věci EDPS proti SRB navíc stanovilo, že povinnost společnosti informovat uživatele platí již v okamžiku sběru dat.thenextweb+1

Jak se odhlásit

Bezplatné účty a tarify Plus a Pro mají nastavení „Vylepšovat model pro všechny“ ve výchozím nastavení zapnuté. U tarifů Enterprise, Business a Education tomu tak není. Uživatelé, kteří chtějí zabránit tomu, aby se jejich budoucí konverzace dostávaly k hodnotitelům, musí tuto možnost ručně vypnout v Nastavení v sekci Správa dat. Toto odhlášení však nemá zpětnou platnost, což znamená, že starší konverzace mohou být stále využívány.pcmag+1