Anthropic-მა ხელოვნური ინტელექტის დახმარებით ბიოლოგიური იარაღის შექმნის მცდელობები აღკვეთა

Anthropic-მა ხუთშაბათს გამოაქვეყნა 154-გვერდიანი ანგარიში საფრთხეების შესახებ, სადაც გამჟღავნდა, რომ კომპანიამ აღკვეთა ხუთი შემთხვევა, როდესაც მეცნიერები მის Claude ხელოვნური ინტელექტის მოდელებს იყენებდნენ ბიოლოგიური კვლევებისთვის, რამაც შესაძლოა ხელი შეუწყოს იარაღის შექმნას. ანგარიში ასევე მოიცავს კიბერშეტევებს, სათვალთვალო ოპერაციებს და ჩვეულებრივი იარაღის შექმნას, რომლებიც დაკავშირებულია რუსეთთან, ჩინეთთან, ირანთან და იემენთან.yahoo+1

ანგარიში, რომელიც მოიცავს 2025 წლის დეკემბრიდან 2026 წლის აგვისტომდე პერიოდს, წარმოადგენს იმას, რასაც Washington Examiner უწოდებს ხელოვნური ინტელექტის ინდუსტრიის პირველ ცნობილ აღიარებას, რომ ბიოლოგიური იარაღის განვითარება იკვეთება ხელოვნური ინტელექტის ბოროტად გამოყენებასთან. Anthropic-ის განცხადებით, მათ ვერ დაადგინეს, ჰქონდათ თუ არა მკვლევრებს მავნე განზრახვა, თუმცა გადაწყვიტეს მოქმედება, რადგან პოტენციური შედეგები ზედმეტად სერიოზული იყო იგნორირებისთვის.nytimes+1

ორმაგი დანიშნულების მეცნიერება და სამხედრო ლაბორატორია

ყველაზე დეტალური შემთხვევა ეხებოდა მეცნიერს, რომელიც მაისში Claude-ს დახმარებას ითხოვდა გრანტის განაცხადის შედგენაში ჩიკუნგუნიას ვირუსზე ფუნქციის გაძლიერების კვლევისთვის. ეს არის კოღოების მიერ გადამდები პათოგენი, რომელიც იწვევს სახსრების ხანგრძლივ ტკივილს. შემოთავაზებული სამუშაო მიზნად ისახავდა ვირუსის მუტაციების ინჟინერიას, რათა ის უფრო მავნე გამხდარიყო ცოცხალ ცხოველებზე განმეორებითი ინფიცირების გზით, და დაგეგმილი იყო სამხედრო კვლევით ინსტიტუტში. მეორე შემთხვევა მოიცავდა Claude-ის დახმარებით კვირების განმავლობაში დაგეგმილ ექსპერიმენტებს მაღალი პათოგენურობის ფრინველის გრიპზე, რომელიც ფოკუსირებული იყო ძუძუმწოვრებთან ადაპტაციაზე. სამი დამატებითი შემთხვევა ეხებოდა ორთოპოქსვირუსებს, შხამთან დაკავშირებულ ნაერთებს და ტოქსინებს.interestingengineering+2

ჯეიკობ კლაინმა, Anthropic-ის საფრთხეების ანალიზის ხელმძღვანელმა, The New York Times-ს განუცხადა, რომ აღმოჩენა თავისთავად რთულია. მისი თქმით, ეს არ არის კომიქსების სცენარი, სადაც ვიღაც ამბობს: მინდა ავაშენო ბიოლოგიური იარაღი ყველას მოსაკლავად. ეს არის წარმოუდგენლად ნიუანსირებული სიტუაცია.nytimes

Anthropic-მა აღნიშნა, რომ Claude-ის ძველი მოდელები შეზღუდულ შესაძლებლობებს ავლენდნენ დახვეწილი ბიოლოგიური კვლევების დასახმარებლად, მაგრამ მიმდინარე სისტემებს შეუძლიათ რთული სამეცნიერო ამოცანების შესრულება, რაც კომპანიის თქმით, ცვლის რისკების შეფასებას.yahoo

სახელმწიფოებთან დაკავშირებული აქტორები მრავალ სფეროში

ბიოლოგიური საფრთხეების გარდა, ანგარიშში დოკუმენტირებულია რუსული ჯაშუშური ჯგუფი, რომელიც Claude-ს იყენებდა უკრაინის სამთავრობო სამიზნეებისა და ევროპული დიპლომატიური ორგანიზაციების წინააღმდეგ კიბერშეტევების ავტომატიზაციისთვის. ჩინეთისა და ირანის მთავრობებთან დაკავშირებული აქტორები Claude-ს იყენებდნენ დიასპორის თემებისა და დისიდენტების სათვალთვალოდ. Anthropic-მა ასევე გამოავლინა ჩვეულებრივი იარაღის განვითარების ექვსი შემთხვევა, მათ შორის იემენში დაფუძნებული ჯგუფი, რომელმაც გამოსცადა მართვადი რაკეტა და რამდენიმე საათში Claude-ს მიუბრუნდა იმის გასაანალიზებლად, თუ რატომ ჩაიშალა ის.qz+1

ინდუსტრიის განგაში

ენდრიუ ვებერმა, აშშ-ის თავდაცვის მდივნის ყოფილმა თანაშემწემ, რომელმაც ანგარიში გამოქვეყნებამდე შეისწავლა, დასკვნებს უწოდა სახელმწიფო მხარდაჭერით მოქმედი ბიოლოგიური იარაღის შემქმნელების მიერ წამყვანი ხელოვნური ინტელექტის მოდელების სწრაფად მზარდი შესაძლებლობების გამოყენების შემზარავი მაგალითები. მან მოუწოდა, რომ რუსეთს, ჩინეთსა და ჩრდილოეთ კორეას შეეზღუდოთ წვდომა ყველაზე მძლავრ სისტემებზე.yahoo+1

Anthropic-მა დაბლოკა ყველა ანგარიში, რომელიც დაკავშირებული იყო იდენტიფიცირებულ აქტივობებთან, დაშალა რელეური ქსელები, რომლებიც გამოიყენებოდა რეგიონული წვდომის კონტროლის გვერდის ავლით, და გაუზიარა თავისი დასკვნები მთავრობებსა და სხვა ხელოვნური ინტელექტის კომპანიებს. კომპანიამ ასევე გაამჟღავნა, რომ ბიო-რისკის ფილტრები უნებლიეთ იყო გამორთული კონტრაქტორების ტრაფიკზე 2025 წლის მაისიდან 2026 წლის აპრილამდე, რამაც დაახლოებით 133 მილიონი გაცვლა მოაქცია რისკის ქვეშ, თუმცა რეტროსპექტულმა მიმოხილვამ არ გამოავლინა ბიოლოგიური იარაღის განვითარების დადასტურებული შემთხვევები ამ ხარვეზის გამო.interestingengineering+2