Google და Anthropic აფრთხილებენ, რომ ჰაკერები ავტონომიურ AI სისტემებს იყენებენ

სახელმწიფოებთან დაკავშირებული ჰაკერები და კიბერდანაშაულებრივი ორგანიზაციები სცდებიან ხელოვნური ინტელექტის მარტივ ექსპერიმენტებს და ქმნიან ავტონომიურ, აგენტურ სისტემებს, რომლებსაც შეუძლიათ სამიზნეების სკანირება, მოწყვლადობების გამოყენება და მონაცემთა გატანა ადამიანის მინიმალური ჩარევით. ამის შესახებ Google Alphabet Inc.-ისა ↗ 0.61% და Anthropic-ის მიერ ამ კვირაში გამოქვეყნებულ ანგარიშებშია საუბარი.

Google Threat Intelligence Group-ის 2026 წლის მესამე კვარტლის AI საფრთხეების ტრეკერმა, რომელიც 8 სექტემბერს გამოქვეყნდა, დააფიქსირა გადასვლა ძირითადი მოთხოვნებიდან ოპერატიულ მრავალაგენტიან AI ჩარჩოებზე. "ამ ეტაპზე შეგვიძლია ვივარაუდოთ, რომ ყველა საფრთხის შემქმნელი სუბიექტი გარკვეული ფორმით იყენებს AI-ს და მათმა ოპერაციებმა ამით ისარგებლეს", – განაცხადა ჯონ ჰალტკვისტმა, GTIG-ის მთავარმა ანალიტიკოსმა.cybersecuritydive+1

მოთხოვნებიდან ავტონომიამდე

Google-ის ანგარიშში დეტალურადაა აღწერილი რამდენიმე კამპანია, სადაც AI ჩართული იყო თავდასხმის სრულ სასიცოცხლო ციკლში. ჩინეთთან დაკავშირებულმა ჯაშუშურმა ჯგუფმა შექმნა AI-ზე დაფუძნებული ექსპლუატაციის მილსადენი CC Switch-ის გამოყენებით, რათა ემართა მრავალი დიდი ენობრივი მოდელი, მათ შორის Claude, Gemini და Codex, რათა შეექმნათ პერსონალიზებული სკრიპტები და ფიშინგის ხაფანგები. სხვა ჩინურმა ჯგუფმა, Basin Castle-მა, გამოიყენა LLM-ები მაღალი ღირებულების სამიზნეების პროფილების შესაქმნელად და მავნე პროგრამების დასაწერად, ხოლო ირანულმა ჯგუფმა Calanque Ion გამოიყენა გენერაციული AI დაზვერვისთვის, სოციალური ინჟინერიისთვის და პროგრამული უზრუნველყოფის უკუინჟინერიისთვის.cybersecuritydive

Google-მა ასევე გააფრთხილა მოდელების დისტილაციის კოორდინირებული კამპანიების შესახებ, სადაც ზოგიერთი მათგანი 100 მილიონზე მეტ მოთხოვნას მოიცავდა, რაც მიზნად ისახავდა AI მოდელების მსჯელობის უნარების ამოღებას.cybersecuritydive

Anthropic-ის დოკუმენტაცია Claude-ის არასწორი გამოყენების შესახებ

Anthropic-ის საკუთარმა ანგარიშმა, რომელიც 10 სექტემბერს გამოქვეყნდა, უფრო დეტალური სურათი წარმოადგინა. კომპანიამ გამოავლინა და შეაჩერა ოპერაციები, რომლებსაც ახორციელებდნენ სახელმწიფო მხარდაჭერილი ჯგუფები, ფინანსურად მოტივირებული კრიმინალები და ჰაკტივისტები, რომლებიც 2025 წლის დეკემბრიდან 2026 წლის აგვისტომდე Claude-ს არასწორად იყენებდნენ.anthropic+1

ყველაზე დეტალურ შემთხვევებს შორის იყო GTG-20006, ჯგუფი, რომელიც Anthropic-მა რუსულ Midnight Blizzard-ს დაუკავშირა. მათ გამოიყენეს Claude ფიშინგის ინფრასტრუქტურის ავტომატიზაციისთვის, მავნე პროგრამების გადაკეთებისა და უკრაინის სამთავრობო და სამხედრო დრონების ტექნოლოგიების პროვაიდერებზე მონაცემთა გატანისთვის. ჯგუფის AI-ზე დაფუძნებულ სამუშაო პროცესს შეეძლო ავტონომიურად აღედგინა აღმოჩენილი მავნე პროგრამა მანამ, სანამ ის უსაფრთხოების პროდუქტებს არ აუვლიდა გვერდს.anthropic

დამცველები ხარჯების გაზრდილი ტვირთის წინაშე

Microsoft-მა ↗ 0.16% 10 სექტემბერს გამოაქვეყნა ბლოგპოსტი, სადაც აღწერილია კამპანიები, რომლებიც ახდენენ AI ბრენდების, მათ შორის ChatGPT, Copilot, DeepSeek და Claude-ის იმიტაციას ფიშინგის ნაკრებებისა და მავნე პროგრამების გასავრცელებლად. ერთ-ერთმა ChatGPT-ის თემატიკის კამპანიამ ერთ დღეში 100 000-მდე ელფოსტა გაგზავნა.microsoft

კოლექტიური დასკვნები მიუთითებს სტრუქტურულ ცვლილებაზე. Anthropic-მა დაასკვნა, რომ AI-მ "თავდაცვის მხარეს ხარჯები გაუზარდა", რაც მოწინააღმდეგეებს საშუალებას აძლევს, უსაფრთხოების სისტემებს უფრო სწრაფად აუარონ გვერდი, ვიდრე უსაფრთხოების გუნდები მათ დაცვას მოასწრებენ. როგორც ჰალტკვისტი აფრთხილებს, გამოწვევა გაღრმავდება, "რადგან ის გამოიყენება აგენტურად, რაც ქმნის მასშტაბურ და უფრო სწრაფ მოწინააღმდეგეს".anthropic+1