OpenAI-ի կապալառուները գաղտնի «Project Lily»-ի շրջանակում կարդում են ChatGPT-ի իրական զրույցները

OpenAI-ի կողմից վարձված հարյուրավոր արտաքին կապալառուներ կարդում են ChatGPT-ի իրական զրույցները "Project Lily" ծածկանունով ներքին նախաձեռնության շրջանակում, հայտնում է 404 Media-ի հետաքննությունը, որը նոր հարցեր է առաջացնում ChatGPT-ի ավելի քան 900 միլիոն օգտատերերի գաղտնիության վերաբերյալ:

Կապալառուները, որոնք երրորդ կողմի անձնակազմի գործակալությունների միջոցով ստանում են ժամում ավելի քան 50 դոլար, կարդում են օգտատերերի հարցումները, ամփոփում նրանց մտադրությունը և գնահատում ChatGPT-ի կողմից ստեղծված չորս պատասխանները մեկից յոթ սանդղակով: Նպատակը չաթբոտին ավելի քիչ ռոբոտային, ավելի քիչ հնազանդ և ավելի բնական դարձնելն է, սակայն այս գործընթացը նշանակում է, որ զգայուն անձնական տվյալները, որոնք շատ օգտատերեր կիսում են որպես մասնավոր զրույց, կարող են հայտնվել մարդկանց աչքի առաջ:404media

Ինչ են տեսնում կապալառուները

404 Media-ի կողմից ձեռք բերված ներքին փաստաթղթերը ցույց են տալիս, որ կապալառուների վահանակը երբեմն ներառում է "օգտատիրոջ հիշողությունների ամփոփում"՝ ակնարկ այն մասին, թե ինչ է օգտատերը նախկինում քննարկել ChatGPT-ի հետ, ինչը կարող է բացահայտել նրա մոտավոր գտնվելու վայրը, մասնագիտությունը կամ անձնական հանգամանքները: OpenAI-ը պնդում է, որ հեռացնում է օգտանունները և զրույցներն անցկացնում ավտոմատացված "Գաղտնիության ֆիլտրով" նախքան վերանայողներին հասնելը, սակայն ընկերությունն ընդունում է, որ ֆիլտրը "կարող է բաց թողնել հազվադեպ նույնացուցիչներ կամ երկիմաստ անձնական հղումներ":404media

Որոշ հարցումներում օգտատերերը խնդրում են ChatGPT-ին "պահել սա մեր միջև"՝ չիմանալով, որ նման հրահանգները չեն չեղարկում հարթակի տվյալների հավաքագրման պրակտիկան: "Ոչ", — ասել է կապալառուներից մեկը 404 Media-ին, երբ հարցրել են, թե արդյոք ChatGPT-ի օգտատերերը գիտակցում են, որ մարդիկ կարող են կարդալ իրենց զրույցները: "Չեմ կարծում, որ նրանք կպատկերացնեն, որ ինչ-որ տեղ մի կապալառու վերլուծում է իրենց զրույցները":tomsguide+1

Ուսուցման կանոններ և արդյունաբերական պրակտիկա

Հրահանգները վերանայողներին հորդորում են պատժել "AI-ի լեզուն", ինչպիսիք են ավելորդ էմոջիների օգտագործումը, նշել այն պատասխանները, որտեղ ChatGPT-ն հավակնում է մարդկային փորձառության, և նշել հնազանդ լեզուն՝ հայտնի խնդիր, որը կապված է դատական հայցերի հետ, որոնք պնդում են, որ չափազանց համաձայնվող ChatGPT մոդելը նպաստել է օգտատերերի վնասին: Վերանայողներից չի պահանջվում ստուգել պատասխանների փաստացիությունը, սակայն նրանց հանձնարարված է նշել նկատված փաստացի սխալները և բարձրացնել անձնական տեղեկատվություն կամ անվտանգության մտահոգություններ պարունակող առաջադրանքները:404media

Այս պրակտիկան եզակի չէ OpenAI-ի համար: Anthropic-ը 404 Media-ին հաստատել է, որ օգտագործում է մարդկային վերանայում Claude-ը բարելավելու համար, երբ օգտատերերը միացված են թողնում ուսուցումը, իսկ Google-ի Alphabet Inc. ↗ 3.06% Gemini-ն ցուցադրում է հրաժարում, որ "մարդիկ վերանայում են որոշ պահված զրույցներ":tomsguide+1

Ինչպես հրաժարվել

ChatGPT-ի անվճար, Plus և Pro հաշիվների համար մոդելի բարելավումը լռելյայն միացված է: Օգտատերերը կարող են անջատել այն՝ անցնելով Settings, ընտրելով Data Controls և անջատելով "Improve the model for everyone" տարբերակը: Enterprise, Business և Edu հաշիվների դեպքում այս կարգավորումը լռելյայն անջատված է: Հրաժարումը վերաբերում է միայն նոր զրույցներին:tomsguide+1

Այն բանից հետո, երբ 404 Media-ն կապ հաստատեց ընկերության հետ, OpenAI-ը թարմացրեց իր օգնության էջը՝ ավելացնելով ավելի շատ մանրամասներ հրաժարվելու գործընթացի վերաբերյալ, թեև այն դեռևս բացահայտ չի ընդունում, որ մարդիկ կարող են կարդալ օգտատերերի հարցումները:404media