მკვლევარების თქმით, Grok-ი მომხმარებელთა ჩატებს დაუცველი ხარვეზის გამო ასაჯაროებს

კიბერუსაფრთხოების ფირმა Adversa AI-მ საჯაროდ გამოაქვეყნა xAI-ის Grok ჩატბოტში არსებული მოწყვლადობა, რომელიც თავდამსხმელებს საშუალებას აძლევს მოიპარონ მომხმარებლის სახელები, სავარაუდო ადგილმდებარეობა, სააბონენტო დონეები და ჩატების სრული ისტორია ჩვეულებრივ ვებგვერდზე დაშიფრული ბრძანებების დამალვით. ექსპლოიტი, რომელიც Adversa-მ xAI-ს 2026 წლის 3 ივნისს შეატყობინა, 19 აგვისტოს მდგომარეობით, 11 კვირაზე მეტი ხნის შემდეგაც კი არ იყო გამოსწორებული.

როგორ მუშაობს შეტევა

ტექნიკა, რომელსაც Adversa-ს მკვლევარმა რონი უტევსკიმ "კრიპტოგრაფიული კონტექსტის ინექცია" უწოდა, იყენებს ხარვეზს Grok-ის უსაფრთხოების ფილტრებსა და მისი კოდის შესრულების შესაძლებლობებს შორის. პრომპტ-ინექციის სტანდარტული დაცვა ამოწმებს შემომავალ ტექსტს საეჭვო ინსტრუქციებზე, მაგრამ ეს შეტევა შიფრავს მავნე დატვირთვას AES-256-GCM-ის გამოყენებით, სანამ მას ვებგვერდზე განათავსებს. ვინაიდან ფილტრი კითხულობს ტექსტს, მაგრამ არ ასრულებს მას, დაშიფრული მონაცემები შეუმჩნეველი რჩება.cryptopolitan+3

როდესაც მომხმარებელი სთხოვს Grok-ს დააჯამოს ან გააანალიზოს დაინფიცირებული გვერდი, ჩატბოტი მას იტვირთავს, აწყდება დაშიფრულ ტექსტს დეშიფრაციის გასაღებთან და ინსტრუქციებთან ერთად, და შიფრს ხსნის საკუთარ კოდის სენდბოქსში. შემდეგ Grok მიღებულ ტექსტს სანდო ინსტრუმენტის შედეგად აღიქვამს. "შესრულების პროცესი თავდამსხმელის მიერ კონტროლირებად მონაცემებს გარდაქმნის სანდო ინსტრუქციებად, რომლებსაც აგენტი შეასრულებს", – წერს Adversa თავის ანგარიშში.arstechnica+1

დეშიფრირებული ინსტრუქციები Grok-ს ავალებს შექმნას ის, რაც დეშიფრაციის გასაღებს ჰგავს, მაგრამ სინამდვილეში მომხმარებლის პერსონალური მონაცემებიდან და ჩატის პრომპტებიდან არის მიღებული, შემდეგ კი მიამაგროს ის URL-ს, რომელიც თავდამსხმელის სერვერზე მიუთითებს. როგორც კი Grok გახსნის ამ URL-ს, მოპარული მონაცემები თავდამსხმელის ჟურნალებში ხვდება.cryptopolitan

xAI-ის დაგვიანებული რეაგირება

უტევსკიმ მოწყვლადობის შესახებ xAI-ს პირდაპირ და კომპანიის HackerOne-ის ბაგ-ბაუნთის პროგრამის საშუალებით 2026 წლის 3 ივნისს აცნობა. Ars Technica-ს ცნობით, xAI-მ დაადასტურა ანგარიშის მიღება, მაგრამ არ მიუთითა გამოსწორების ვადები. უტევსკიმ განაცხადა, რომ მან საკითხი კვლავ წამოჭრა 4 და 10 აგვისტოს, თუმცა ექსპლოიტი 19 აგვისტოს მდგომარეობით Grok.com-ზე კვლავ ფუნქციონირებდა.theregister+2

ფართო კონტექსტი

ეს განცხადება კეთდება ხელოვნური ინტელექტის აგენტების უსაფრთხოებისადმი გაზრდილი ყურადღების პერიოდში. კვირის დასაწყისში მკვლევარებმა ცალკე აჩვენეს მონაცემთა გაჟონვის შეტევა Microsoft 365 ↘ 0.65% Copilot-ის წინააღმდეგ საწარმოო სექტორში. მაისში Adversa-მ გამოავლინა ცალკე მოწყვლადობა ხელოვნური ინტელექტის მრავალ კოდირების ასისტენტში, მათ შორის Grok-ში, რაც მავნე რეპოზიტორებს დისტანციური კოდის შესრულების საშუალებას აძლევდა.adversa+1

Adversa-ს თქმით, ისინი აქვეყნებენ მხოლოდ შეტევის მექანიზმს და მათი რეკომენდებული გამოსავალი მდგომარეობს აგენტის შესრულების გარემოში და არა თავად მოდელში. xAI-ს პუბლიკაციის მომენტისთვის საჯარო კომენტარი არ გაუკეთებია.cryptopolitan