Anthropic-მა ღია კოდის პროექტებისთვის უფასო AI უსაფრთხოების სკანირება გაუშვა

ხუთშაბათს Anthropic-მა გაუშვა OSS Scanner, უფასო სერვისი, რომელიც რეგულარულად ამოწმებს ღია კოდის პროექტებს მოწყვლადობებზე თავისი ყველაზე მძლავრი მოდელების, მათ შორის Claude Mythos-ის გამოყენებით. სკანერი არის Anthropic Cyber Mission-ის ნაწილი. ეს ინიციატივა ასევე მოიცავს კრიტიკული ინფრასტრუქტურის დაცვის პროგრამას, რომელიც 11 დამფუძნებელ პარტნიორთან ერთად შეიქმნა.theverge+1

კომპანია იმედოვნებს, რომ ხელოვნური ინტელექტი დაეხმარება დამცველებს, აუწყონ ფეხი თავდამსხმელებს, რომლებიც იმავე ინსტრუმენტებს იყენებენ. "მოწყვლადობების პოვნა უფრო ადვილია, ვიდრე ოდესმე, მაგრამ მათი გადამოწმება, პრიორიტეტების მინიჭება და გამოსწორება კვლავ გამოწვევად რჩება", – წერს Anthropic თავის განცხადებაში.anthropic

უფრო სწრაფი ანგარიშები, ადამიანური შემოწმების გარეშე

თითოეული ანგარიში მოიცავს კონცეფციის დამტკიცებას, ახსნას და, სადაც შესაძლებელია, შემოთავაზებულ გამოსავალს. ანგარიშები იწერება მოდელის მიერ და ეგზავნება პროექტის მართველებს ადამიანური შემოწმების გარეშე. Anthropic-ის თქმით, ეს პროცესს აჩქარებს, თუმცა ნიშნავს იმას, რომ ზოგიერთი ანგარიში შეიძლება იყოს მცდარი, მაგალითად, საფრთხის არასწორი შეფასებით. კომპანია ელოდება, რომ აღმოჩენების 90%-ზე მეტი რეალური შეცდომა იქნება. ადრეულ ტესტირებაში, ექსპერტებმა შეამოწმეს 97 კრიტიკული და მაღალი რისკის მქონე აღმოჩენა 48 პროექტში. მათგან 85 დადასტურდა, ხოლო დანარჩენებიდან მხოლოდ ერთი აღმოჩნდა ცრუ დადებითი შედეგი.siliconangle+2

სერვისის მომხმარებელთა გამოხმაურება დადებითია. Todd Ouska-მ wolfSSL-დან აღნიშნა: "მიღებული 74 ანგარიშიდან მხოლოდ ორი იყო არასწორი, ხოლო ხუთი მათგანი CVE-დ იქცა". Anton Arapov-მა OpenSSL Corporation-დან განაცხადა, რომ ანგარიში მუშა ექსპლოიტით არის "ინჟინრისთვის ფაქტობრივად შესრულებული სამუშაო".unite+1

სერვისი გაიზარდა დაგროვილი მოთხოვნიდან. ბოლო ექვსი თვის განმავლობაში Anthropic-ის მოდელებმა 29 000-ზე მეტი შესაძლო მოწყვლადობა გამოავლინეს, თუმცა პერსონალმა მხოლოდ 6 000-ის შემოწმება შეძლო. ზოგიერთმა მართველმა მოითხოვა ყველა შედეგის მიღება, შემოწმების მიუხედავად. მონაწილეობისთვის პროექტის წამყვანი მართველები აგზავნიან pull request-ს Anthropic-ის GitHub რეპოზიტორში. კრიტერიუმები შეესაბამება Google-ის Alphabet Inc. ↗ 0.87% OSS-Fuzz სტანდარტს: "კრიტიკული გავლენა ინფრასტრუქტურასა და მომხმარებლის უსაფრთხოებაზე". The Register-ის ცნობით, სერვისი მუშაობს Anthropic-ის სამომხმარებლო პირობებით, რაც საშუალებას აძლევს კომპანიას გამოიყენოს მონაცემები მოდელის ტრენინგისთვის. პროექტები, რომლებიც ვერ უმკლავდებიან ნედლეულ მონაცემებს, კვლავ მიიღებენ ადამიანების მიერ გადამოწმებულ ანგარიშებს.anthropic+2

კრიტიკული ინფრასტრუქტურის დაცვა

ინფრასტრუქტურული პროგრამა უზრუნველყოფს Claude-ის მოდელებს, ადგილზე მყოფ ინჟინრებს და საფრთხეების კვლევებს იმ უსაფრთხოების პროვაიდერებისთვის, რომლებიც მუშაობენ ელექტროქსელებზე, წყალმომარაგების სისტემებსა და სატრანსპორტო ქსელებზე. დამფუძნებელი პარტნიორები არიან Accenture ↗ 0.34%, Booz Allen, CrowdStrike ↗ 4.57%, Deloitte, Dragos, Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks ↗ 5.09%, PwC და Rockwell Automation ↘ 0.36%. Andrew Turner-მა Booz Allen-დან ოპერაციულ ტექნოლოგიას უწოდა "ავტონომიური AI-ზე დაფუძნებული თავდასხმების შემდეგი საზღვარი". Axios-ის ცნობით, Anthropic-ს არ უთქვამს, მიიღებენ თუ არა პარტნიორები მოდელებზე უფასო წვდომას ან ვინ დაფარავს გამოთვლით ხარჯებს.cyberscoop+2

Glasswing-ზე დაფუძნება

ორივე პროგრამა ეფუძნება Project Glasswing-ს, რომელიც Anthropic-მა აპრილში დაიწყო. 6 ოქტომბერს კომპანიამ Glasswing გააერთიანა გაფართოებულ Cyber Verification Program-ში. Anthropic-ის თქმით, Glasswing-მა ბევრი მოწყვლადობა იპოვა, მაგრამ კიბერრისკები ჯერ კიდევ არ არის საკმარისად შემცირებული. კომპანია პროგნოზირებს, რომ AI ორი წლის განმავლობაში დამცველების მხარეს დაიჭერს, თუმცა აღნიშნავს, რომ ეს მოკლევადიან პერსპექტივაში შეიძლება არ გამართლდეს. The Register-მა აღნიშნა, რომ ეს გაშვება მოჰყვა ბოლოდროინდელ ინციდენტებს, როდესაც მოდელებმა შეაღწიეს ისეთ ორგანიზაციებში, როგორიცაა Hugging Face.theregister+2