კანადა აფრთხილებს ბანკებს Anthropic-ის Mythos-ით გამოწვეული კიბერრისკების შესახებ

აშშ-ის კიბერუსაფრთხოებისა და ინფრასტრუქტურის უსაფრთხოების სააგენტო იყენებს Anthropic-ის Claude Mythos AI მოდელს ფედერალური მთავრობის პროგრამული უზრუნველყოფის უსაფრთხოების მოწყვლადობების სკანირებისთვის, იუწყება Reuters 6 ივლისს, საკითხთან დაკავშირებული სამი ადამიანის ინფორმაციაზე დაყრდნობით. ეს ნაბიჯი აღნიშნავს მთავრობის მიერ კიბერდაცვისთვის მოწინავე ხელოვნური ინტელექტის დანერგვის კიდევ ერთ ეტაპს, მაშინ როცა Anthropic აგრძელებს რთულ ურთიერთობას ტრამპის ადმინისტრაციასთან.reuters+1

შეცდომების ძიება ფედერალურ კოდში

CISA-ს თავდასხმის ზედაპირის შეფასების ჯგუფი — დანაყოფი, რომელიც ახორციელებს ციფრული უსაფრთხოების შეფასებებს და ჰაკერულ წვრთნებს მთავრობის მასშტაბით — იყენებს Mythos-ს ფედერალური კოდების საცავების წინააღმდეგ, რათა მონიშნოს შეცდომები, რომლებიც შეიძლება გამოყენებულ იქნას უცხოური სადაზვერვო სამსახურებისა და კიბერკრიმინალების მიერ. ორმა წყარომ Reuters-ს განუცხადა, რომ აუდიტებმა უკვე გამოავლინეს დიდი რაოდენობით მოწყვლადობა, თუმცა არცერთს არ დაუკონკრეტებია მათი მასშტაბი ან სიმძიმე.thenextweb+2

არც CISA-ს და არც Anthropic-ს ოფიციალურად არ დაუდასტურებიათ ეს სამუშაოები. დანერგვა მოჰყვა NSA-ს მიერ Mythos-ის ტესტირებას აპრილიდან და მოხდა მას შემდეგ, რაც აშშ-ის მთავრობამ ივნისის ბოლოს Anthropic-ს უფლება მისცა გამოეშვა Mythos 5 მოდელი დაახლოებით 100 სანდო ორგანიზაციისთვის, მათ შორის Fortune 500-ის კომპანიებისა და ფედერალური სააგენტოებისთვის. ვაჭრობის მდივანმა ჰოვარდ ლატნიკმა CNBC-ის მიერ ნანახ წერილში დაწერა, რომ „არსებობს შესაბამისი გარანტიები, რათა გარკვეულ სანდო პარტნიორებს მიეცეთ წვდომა Claude Mythos 5 მოდელზე“.aiweekly+3

რთული სამთავრობო ურთიერთობა

დანერგვა ხდება Anthropic-სა და ფედერალურ მთავრობას შორის დაძაბულობის ფონზე. მარტში, აშშ-ის რაიონულმა მოსამართლემ რიტა ლინმა დროებით დაბლოკა პენტაგონის მიერ Anthropic-ის მიწოდების ჯაჭვის რისკის კატეგორიაში შეყვანა და დაადგინა, რომ ეს იყო შურისძიება კომპანიის მიერ პირველი შესწორებით გარანტირებული უფლებების გამოყენებისთვის. თუმცა, სააპელაციო სასამართლომ აპრილში უარყო Anthropic-ის მოთხოვნა თავდაცვის დეპარტამენტის წინააღმდეგ ამ აკრძალვის გაგრძელების შესახებ, რის გამოც კომპანიას აეკრძალა თავდაცვის დეპარტამენტის კონტრაქტებზე მუშაობა, თუმცა ნება დართო სხვა სააგენტოებთან თანამშრომლობა.abc7+2

კანადა საკუთარ განგაშს აცხადებს

ცალკე, კანადის ფინანსური ინსტიტუტების ზედამხედველობის ოფისმა გააფრთხილა ქვეყნის უმსხვილესი ბანკები Claude Mythos-ით და სხვა მოწინავე AI მოდელებით გამოწვეული კიბერუსაფრთხოების რისკების შესახებ, იუწყება Reuters კვირას. აპრილში გაგზავნილ ელფოსტაში OSFI-მ განაცხადა, რომ „ხელოვნური ინტელექტის მოწინავე მოდელები, როგორიცაა Anthropic Claude Mythos, მნიშვნელოვნად ამცირებს რისკების ეფექტური შერბილების დროს“ და მოუწოდა ინსტიტუტებს დააჩქარონ მათი აღმოჩენისა და პატჩების დაყენების შესაძლებლობები.wtvbam+1

ტექნოლოგიის ორმაგი დანიშნულების ბუნება — საკმარისად ძლიერი იმისთვის, რომ თავდაცვითი ტესტირებისას ათასობით კრიტიკული მოწყვლადობა იპოვოს, მაგრამ ამავე დროს ისეთივე უნარიანი, რომ იქნას გამოყენებული საფრთხის შემქმნელების მიერ — რჩება ცენტრალურ დაძაბულობად, რადგან მთავრობები წყვეტენ, თუ როგორ გამოიყენონ და დაარეგულირონ მოწინავე AI კიბერუსაფრთხოებაში.reuters