OpenAI-ის კონტრაქტორები ChatGPT-ის პირად ჩატებს საიდუმლო პროექტის ფარგლებში კითხულობენ

OpenAI-ის მიერ დაქირავებული ასობით კონტრაქტორი ChatGPT-ის რეალურ საუბრებს კითხულობს. ეს ხდება შიდა ინიციატივის ფარგლებში, რომელსაც კოდური სახელი "Project Lily" ჰქვია. 404 Media-ს მიერ ჩატარებულმა გამოძიებამ ChatGPT-ის 900 მილიონზე მეტი მომხმარებლის კონფიდენციალურობის საკითხი კვლავ დღის წესრიგში დააყენა.

კონტრაქტორები, რომლებსაც მესამე მხარის სააგენტოების მეშვეობით საათში 50 დოლარზე მეტს უხდიან, კითხულობენ მომხმარებლის შეკითხვებს, აჯამებენ მათ მიზანს და აფასებენ ChatGPT-ის მიერ გენერირებულ ოთხ პასუხს ერთიდან შვიდბალიანი სისტემით. მიზანი ჩატბოტის უფრო ბუნებრივად და ნაკლებად რობოტულად ამეტყველებაა, თუმცა ეს პროცესი ნიშნავს, რომ მგრძნობიარე პირადი დეტალები, რომლებსაც მომხმარებლები ხშირად პირად საუბრებში ანდობენ სისტემას, შესაძლოა ადამიანების თვალთახედვის არეში მოხვდეს.404media

რას ხედავენ კონტრაქტორები

404 Media-ს მიერ მოპოვებული შიდა დოკუმენტები აჩვენებს, რომ კონტრაქტორების პანელი ზოგჯერ მოიცავს "მომხმარებლის მეხსიერების შეჯამებას" – მიმოხილვას იმის შესახებ, თუ რაზე ისაუბრა მომხმარებელმა წარსულში, რაც შესაძლოა ავლენდეს მის ადგილმდებარეობას, პროფესიას ან პირად გარემოებებს. OpenAI აცხადებს, რომ მომხმარებლის სახელებს შლის და საუბრებს "კონფიდენციალურობის ფილტრში" ატარებს, თუმცა კომპანია აღიარებს, რომ ფილტრმა შესაძლოა "გამოტოვოს იშვიათი იდენტიფიკატორები ან ბუნდოვანი პირადი მინიშნებები".404media

ზოგიერთ ჩატში მომხმარებლები ChatGPT-ს სთხოვენ, რომ "ეს ჩვენს შორის დარჩეს", რადგან არ იციან, რომ ასეთი მითითებები პლატფორმის მონაცემთა შეგროვების პრაქტიკას არ ცვლის. ერთ-ერთმა კონტრაქტორმა 404 Media-ს განუცხადა, რომ მომხმარებლებს წარმოდგენაც არ აქვთ, რომ მათ საუბრებს ვიღაც კითხულობს.tomsguide+1

წვრთნის წესები და ინდუსტრიული პრაქტიკა

ინსტრუქციები კონტრაქტორებს ავალდებულებს, დასაჯონ "AI-ს სტილი", როგორიცაა ზედმეტი ემოჯიების გამოყენება, და მონიშნონ პასუხები, სადაც ჩატბოტი ადამიანურ გამოცდილებაზე საუბრობს. მიუხედავად იმისა, რომ კონტრაქტორებს ფაქტების გადამოწმება არ ევალებათ, მათ დავალებული აქვთ მონიშნონ ფაქტობრივი შეცდომები და გაამწვავონ ის დავალებები, რომლებიც პირად ინფორმაციას ან უსაფრთხოების რისკებს შეიცავს.404media

ეს პრაქტიკა მხოლოდ OpenAI-ს არ ეხება. Anthropic-მა დაადასტურა, რომ იყენებს ადამიანურ შემოწმებას Claude-ის გასაუმჯობესებლად, ხოლო Google-ის Alphabet Inc. ↘ 1.24% Gemini-ს შემთხვევაშიც არსებობს გაფრთხილება, რომ "ადამიანები ზოგიერთ შენახულ ჩატს ამოწმებენ".tomsguide+1

როგორ გავაუქმოთ მონაცემთა გამოყენება

ChatGPT-ის უფასო, Plus და Pro ანგარიშებისთვის მოდელის გაუმჯობესება ავტომატურად არის ჩართული. მომხმარებლებს შეუძლიათ მისი გამორთვა პარამეტრებში (Settings), მონაცემთა კონტროლის (Data Controls) განყოფილებაში, "მოდელის გაუმჯობესება ყველასთვის" (Improve the model for everyone) გამორთვით. Enterprise და საგანმანათლებლო ანგარიშებზე ეს ფუნქცია ნაგულისხმევად გამორთულია. ცვლილება მხოლოდ ახალ საუბრებზე ვრცელდება.tomsguide+1

მას შემდეგ, რაც 404 Media-მ კომპანიას დაუკავშირდა, OpenAI-მ განაახლა დახმარების გვერდი, თუმცა იქ კვლავ არ არის პირდაპირ ნათქვამი, რომ ადამიანებს მომხმარებლების ჩატების წაკითხვა შეუძლიათ.404media