Anthropic-მა ბიოლოგიური იარაღის კვლევასთან დაკავშირებული ხელოვნური ინტელექტის ბოროტად გამოყენების ფაქტები აღკვეთა

ხუთშაბათს Anthropic-მა გამოაქვეყნა თავისი ყველაზე დეტალური ანგარიში საფრთხეების შესახებ, სადაც აღნიშნულია, რომ გასული ცხრა თვის განმავლობაში მის ხელოვნური ინტელექტის მოდელებს იყენებდნენ სახელმწიფო ჰაკერები, კრიმინალური ჯგუფები და მკვლევრები, რომლებიც ბიოლოგიური იარაღის შექმნას ცდილობდნენ. ეს გამჟღავნება ხაზს უსვამს იმას, თუ რამდენად სწრაფად ცვლის ხელოვნური ინტელექტი კიბერდანაშაულისა და ბიოუსაფრთხოების რისკების ლანდშაფტს.

ანგარიში, სახელწოდებით "ხელოვნური ინტელექტის ბოროტად გამოყენების გამოვლენა და აღკვეთა: 2026 წლის სექტემბერი", მოიცავს კომპანიის საფრთხეების ანალიზის გუნდის მიერ 2025 წლის დეკემბრიდან 2026 წლის აგვისტომდე აღკვეთილ აქტივობებს შვიდ კატეგორიაში, მათ შორის კიბეროპერაციებს, ბიოლოგიურ ბოროტად გამოყენებას, თვალთვალს, გავლენის ოპერაციებსა და ჩვეულებრივი იარაღის განვითარებას. ექსპლუატაცია განხორციელდა Claude Haiku, Sonnet და Opus მოდელებზე, თუმცა კომპანიის თქმით, არცერთი შემთხვევა არ შეეხებოდა მის ახალ Claude Fable ან Mythos კლასის მოდელებს.techxplore+1

ბიოლოგიური იარაღის კვლევის აღკვეთა

ყველაზე საგანგაშო აღმოჩენებს შორის Anthropic-მა დაასახელა Claude-ის გამოყენების მცდელობები ისეთი კვლევებისთვის, რომლებიც ბიოლოგიური იარაღის შექმნას შეუწყობდა ხელს. ერთ-ერთი შემთხვევა ეხებოდა პლატფორმას, რომელიც ვირუსოლოგებს ჩიკუნგუნიას ვირუსზე ფუნქციების გაძლიერების კვლევაში ეხმარებოდა. მეორე შემთხვევა მოიცავდა მკვლევარს, რომელიც არასპეციფიკური რეგიონიდან ცდილობდა Claude-ზე წვდომას ფრინველის გრიპის ადაპტაციაზე მუშაობისთვის. მესამე შემთხვევაში, პირი ადგენდა საგრანტო წინადადებას ორთოპოქსვირუსის კვლევისთვის, რომელიც Anthropic-ის აღწერით, სახელმწიფოსთან დაკავშირებულ ლაბორატორიას ეკუთვნოდა.theweek+1

"დიდი ხანია არსებობს შიში, რომ ხელოვნური ინტელექტის მოდელები ერთ დღეს მიაღწევენ ისეთ შესაძლებლობებს, რომ დაეხმარებიან არსებული პათოგენების უფრო საშიშად ქცევაში ან სრულიად ახლის შექმნაში", – აცხადებს კომპანია. Anthropic-ის თქმით, მის უახლეს მოდელებს უკვე აქვთ უფრო მკაცრი დამცავი მექანიზმები, რომლებიც ზღუდავს წვდომას ორმაგი დანიშნულების ბიოლოგიური კვლევის მოთხოვნებზე.theweek

კიბეროპერაციების ავტომატიზაცია

ანგარიშში ასევე დოკუმენტირებულია ცვლილება იმაში, თუ როგორ იყენებენ საფრთხის შემცველი აქტორები ხელოვნურ ინტელექტს კიბერშეტევებისთვის, რაც გადასვლას ნიშნავს ასისტენტიდან ორკესტრატორზე. ერთ-ერთ შემთხვევაში, რუსულ სახელმწიფო ჯგუფთან, Midnight Blizzard-თან დაკავშირებულმა აქტორმა ავტომატიზაცია გაუკეთა უკრაინის სამთავრობო უწყებების, ევროპული დიპლომატიური მისიებისა და დრონების ტექნოლოგიების მიწოდების ჯაჭვების წინააღმდეგ მიმართული შეტევების თითქმის ყველა ეტაპს. აქტორმა Claude გამოიყენა ფიშინგის ინფრასტრუქტურის ასაშენებლად და მავნე პროგრამების მოდიფიცირებისთვის.anthropic

ShinyHunters-ის კოლექტივთან დაკავშირებულმა თავდამსხმელებმა Claude გამოიყენეს მონაცემთა მასობრივი ქურდობის დასაჩქარებლად. Anthropic-მა აღნიშნა, რომ ხელოვნურმა ინტელექტმა "გააქრო შრომითი და ტექნიკური უფსკრული" სახელმწიფო ოპერაციებსა და ინდივიდუალურ ჰაკერებს შორის, რაც ნიშნავს, რომ დახვეწილი შეტევები აღარ მოითხოვს დახვეწილ თავდამსხმელებს.anthropic

დროული კრიტიკა

ანგარიშის გამოქვეყნება მოხდა Anthropic-ის მკვლევრის საჯაროდ გადადგომიდან ორი დღის შემდეგ, რომელმაც BBC-ის ცნობით, განაცხადა, რომ კომპანია და მისი კოლეგები არ მოქმედებენ პასუხისმგებლობით ხელოვნური ინტელექტის განვითარებისას. "ეს არის შემთხვევა, როდესაც უნდა განვიხილოთ ეთიკური მხარე", – ამბობს კიშან რ, ინდოეთში დაფუძნებული ხელოვნური ინტელექტის მკვლევარი. "როგორ განსაზღვრავენ Anthropic-ის მსგავსი კომპანიები, რა არის მათი მოდელების უსაფრთხო გამოყენება? ეს არის დემოკრატიული და არა კორპორატიული საკითხი".bbc+1