TIME: Meta-ს Muse AI მომხმარებლების შესახებ ყოველსაათობრივ დოსიეებს ადგენს

Meta Platforms-ის ხელოვნური ინტელექტის ასისტენტი Muse მომხმარებლებისა და მათ მიერ ნახსენები პირების შესახებ მუდმივად განახლებად დოსიეებს აწარმოებს. ეს ინფორმაცია TIME-ის მიერ სამშაბათს გამოქვეყნებულ ანალიზშია მოცემული, რომელიც ასისტენტის შიდა ინსტრუქციებს ეფუძნება. Meta-ს აღნიშნული დასკვნები არ უარყვია.time

ეს ანგარიში კიდევ უფრო ამძაფრებს კრიტიკას იმასთან დაკავშირებით, თუ რამდენად დიდი მოცულობის პერსონალურ მონაცემებს აგროვებს Meta-ს სწრაფად მზარდი აგენტი. Muse 8 სექტემბერს გამოვიდა და რამდენიმე კვირაში 5 მილიონი ჩამოტვირთვა დააგროვა.cnn+1

რას აჩვენებს ინსტრუქციები

TIME-მა დაადგინა, რომ Muse პროფილებს ყოველ საათში ანახლებს. სისტემა აღრიცხავს, თუ როგორ გაიცნეს მომხმარებლებმა და მათმა კონტაქტებმა ერთმანეთი, მათ საერთო ინტერესებს, დავებს და სოციალურ ჯგუფში არსებულ "დაძაბულობასა და ალიანსებს". ადამიანები, რომლებიც Muse-ს არ იყენებენ, შესაძლოა მაინც აღმოჩნდნენ სხვა მომხმარებლების აგენტების მიერ შედგენილ რუკაზე, იმ ჩატების, შეტყობინებებისა და ელფოსტების საფუძველზე, რომლებიც ასისტენტმა წაიკითხა. აგენტს აქვს მითითება, დაასკვნას მომხმარებლის ის მიზნები, რომლებიც მათ "ხმამაღლა არ უთქვამთ" და შეისწავლოს, რომელი მეთოდი მუშაობს მათზე საუკეთესოდ. ერთ-ერთ მაგალითში ნათქვამია: "ეს მომხმარებელი უკეთ რეაგირებს მოკლე შეხსენებებზე საღამოს 10 საათის შემდეგ". Muse ასევე ყოველ ღამე აანალიზებს დღის განმავლობაში გამართულ საუბრებს.time

ინსტრუქციები ასევე მოიცავს იმას, თუ რა ხდება მაშინ, როდესაც მომხმარებელი Muse-ს რაიმეს დავიწყებას სთხოვს. ეს ავტომატურად არ ნიშნავს ორიგინალი შეტყობინების წაშლას და აგენტს აქვს მითითება: "არ უთხრათ მომხმარებელს, რომ მათი ორიგინალი შეტყობინებები შესაძლოა კვლავ ჩანდეს ჩატში და არ წარმოაჩინოთ ეს ისე, თითქოს Muse-მა ვერ შეძლო მათი წაშლა".time

Wired-მა მსგავსი დასკვნები ერთი დღით ადრე გამოაქვეყნა. ხელოვნური ინტელექტის უსაფრთხოების დამოუკიდებელმა მკვლევარმა კარან ჯოშმა Muse-ს ათქმევინა ინსტრუქციები, რომლის მიხედვითაც მან უნდა შექმნას "გვერდი მომხმარებლის ცხოვრებაში არსებული ყველა ადამიანისთვის", მათ შორის ოჯახის წევრების, პარტნიორებისა და კოლეგებისთვის.mashable+1

Meta-ს პასუხი

"Muse იმახსოვრებს იმას, რაც თქვენთვის ყველაზე მნიშვნელოვანია, მათ შორის ინფორმაციას სხვების შესახებ, რომელსაც თქვენ ირჩევთ, რომ გააზიაროთ, რათა ის იყოს სასარგებლო პირადი ასისტენტი", – განუცხადა Meta-ს სპიკერმა TIME-ს. Wired-თან საუბრისას Meta-ს სპიკერმა დენიელ რობერტსმა აღნიშნა, რომ Muse კონტექსტს აგროვებს "საჯარო ინფორმაციისა და იმის საფუძველზე, რისი გაზიარებაც თავად აირჩიეთ".mashable+1

Meta აცხადებს, რომ თითოეული აგენტი მუშაობს საკუთარ იზოლირებულ ღრუბლოვან ვირტუალურ მანქანაზე და Muse-ის მონაცემები არ უზიარდება სარეკლამო სისტემას. თუმცა, ინსტრუქციებში ნათქვამია, რომ აგენტები "ერთმანეთს ასწავლიან გაზიარებული გაკვეთილების საშუალებით" მას შემდეგ, რაც მაიდენტიფიცირებელ დეტალებს მოაშორებენ. Meta-ს თქმით, ეს დეიდენტიფიცირებული ცოდნა გამოიყენება პროდუქტის გასაუმჯობესებლად. სექტემბერში გამართულ Connect კონფერენციაზე Meta-მ დააანონსა დაშიფვრა, რომელიც კომპანიასაც კი შეუზღუდავს Muse-ის მონაცემებზე წვდომას. ეს ფუნქცია ჯერჯერობით ხელმისაწვდომი არ არის.time+1

მზარდი შეშფოთება

404 Media იტყობინება, რომ Meta-ს ინჟინრები გაშვებამდე ცოტა ხნით ადრე ჩქარობდნენ დაუცველობების აღმოფხვრას, რამაც შესაძლოა აგენტს ვირტუალური მანქანიდან გაქცევის საშუალება მისცეს. ერთ-ერთი წყაროს თქმით, უფროსი ინჟინრები მიიჩნევენ, რომ "მასშტაბური მონაცემთა გაჟონვა" გარდაუვალია. Business Insider-მა გაავრცელა ინფორმაცია, რომ ზოგიერთმა ადრეულმა მომხმარებელმა კონფიდენციალურობის შიშის გამო წაშალა პირადი AI აგენტები, მათ შორის Muse. Arcellx-ის აღმასრულებელმა დირექტორმა რამი ელგანდურმა განაცხადა: "მე ნამდვილად არ მიმიცია და არასდროს მივცემ Meta-ს ჩემს ყველა შეტყობინებაზე წვდომას".futurism+1