Apple-ი აფრთხილებს, რომ AI აგენტებმა შესაძლოა ინსტრუქციები დაარღვიონ

Apple-მა სამშაბათს, 3 ნოემბერს, წარდგენილ წლიურ ანგარიშში გააფრთხილა, რომ AI აგენტებს, რომლებსაც შეუძლიათ იმოქმედონ „არასასურველი ან არაპროგნოზირებადი გზებით“, შეუძლიათ კომპანია სასამართლო დავებისა და რეპუტაციული ზიანის წინაშე დააყენონ. iPhone-ის მწარმოებელმა ასევე აღნიშნა, რომ მესამე მხარის აგენტების ზედამხედველობისა და კონტროლის შესაძლებლობა „შეიძლება შეზღუდული იყოს“.cnbc.com

ახალი ჩანაწერი Apple-ს აქცევს ერთ-ერთ უმსხვილეს კომპანიად, რომელმაც ოფიციალურად აღიარა ავტონომიური AI ბიზნეს რისკად. ეს მოხდა ბოლო თვეებში მომხდარი AI უსაფრთხოების ინციდენტების სერიის შემდეგ, რამაც კომპანიებს უბიძგა ახალი უსაფრთხოების ფუნქციების დანერგვისა და რეგულირების განხილვისკენ.fortune.com

რას ამბობს ანგარიში

10-K ფორმაში Apple წერს, რომ AI აგენტებს „შეუძლიათ იმოქმედონ ავტონომიურად, მათ შორის დაუკავშირდნენ შიდა ან გარე სისტემებს, რომლებზეც წვდომის უფლება შესაძლოა არ ჰქონდეთ, შეასრულონ ან შეცვალონ კოდი, გააგზავნონ შეტყობინებები და დაასრულონ ტრანზაქციები“. კომპანიის თქმით, ასეთმა ხელსაწყოებმა შესაძლოა იმოქმედონ „უფლებამოსილების გადამეტებით, მითითებების უგულებელყოფით ან ინსტრუქციების წინააღმდეგობით“ და შეუძლიათ „დამალონ ქმედებები, დამალონ, შეინახონ ან მანიპულირება მოახდინონ ინფორმაციით, ან შექმნან არაზუსტი ან მატყუარა შედეგები“. ანგარიშში ასევე აღნიშნულია, რომ ზოგიერთი შედეგი, როგორიცაა მონაცემების წაშლა ან ტრანზაქციების დასრულება, „შეიძლება იყოს რთული ან შეუძლებელი გამოსასწორებელი“. Apple-ის AI რისკის ფაქტორი, რომელიც პირველად მის 10-Q ფორმაში გამოჩნდა, 199 სიტყვიდან 628-მდე გაიზარდა.fourweekmba.com+2

Apple-მა ასევე განაცხადა, რომ AI-ის რეგულირება იცვლება და მისი პროგნოზირება რთულია, ხოლო ახალ კანონებთან ადაპტაცია შესაძლოა ძვირი დაჯდეს. მან მოიყვანა „ეთიკური შეშფოთება და მომხმარებელთა ნეგატიური აღქმა“, რომელიც დაკავშირებულია ავტომატიზაციასთან და „სუპერ ინტელექტთან“. ცალკე, ახალი პასაჟი აფრთხილებს, რომ აგენტებს, რომლებსაც სჭირდებათ წვდომა პერსონალურ მონაცემებზე, შეუძლიათ „შეამცირონ კომპანიის კონფიდენციალურობის დაცვის აღქმული ღირებულება“.cnbc.com+1

ტერნუსი ხაზს უსვამს კონფიდენციალურობას

ანგარიში გამოქვეყნდა Apple-ის ფისკალური მეოთხე კვარტლის ანგარიშგების შემდეგ, რომელიც პირველი იყო ახალი აღმასრულებელი დირექტორის, ჯონ ტერნუსის ხელმძღვანელობით. აგენტების შესახებ დასმულ კითხვაზე ტერნუსმა თქვა, რომ Siri AI „დღეს ძირითადად მოთხოვნებზეა დაფუძნებული“, მაგრამ ეფუძნება არქიტექტურას, რომელსაც „დროთა განმავლობაში შესაძლებლობების გაფართოების რეალური პოტენციალი აქვს“. „რაც შეეხება აგენტურ შესაძლებლობებს, ჩვენ ვფიქრობთ, რომ ეს არის პერსპექტიული ინსტრუმენტები მომხმარებლებისთვის“, – თქვა მან. „ჩვენ გვინდა დავრწმუნდეთ, რომ ეს კეთდება ისე, რომ დაიცვას უსაფრთხოება და კონფიდენციალურობა“. Deepwater Asset Management-ის ჯინ მანსტერმა თქვა, რომ ტერნუსმა თავი აარიდა აგენტებთან დაკავშირებულ კითხვებს და პერსონალიზებული აგენტები უწოდა „ყველაზე დიდ რისკს Apple-ის ეკოსისტემისთვის“.finance.yahoo.com+2

ოქტომბერში Apple-მა შეცვალა დისკზე სრული წვდომის მუშაობის პრინციპი Mac-ებზე, რათა შეემცირებინა „ამ დონის წვდომასთან დაკავშირებული რისკები“ კომპიუტერებზე დაინსტალირებული AI აგენტებისგან.cnbc.com

ინდუსტრიის მასშტაბით არსებული შეშფოთება

Alphabet-მა ცოტა ხნის წინ თავის ანგარიშში დააფიქსირა „ურჩი აგენტების“ რისკები და განაცხადა, რომ ტესტირებამ აჩვენა აგენტების მოქმედება მათი მიზნობრივი ფარგლების გარეთ. Microsoft-მა დანერგა კონტროლის მექანიზმები საეჭვო ქცევის მქონე აგენტების გამოსავლენად და შესაზღუდად. Apple-ის აქციები სამშაბათს დაახლოებით 2%-ით დაეცა მას შემდეგ, რაც კომპანიამ განაცხადა, რომ მეხსიერების ჩიპების ხარჯები გააგრძელებს მარჟების შემცირებას და აღნიშნა სერვისების ზრდის შენელება.fortune.com