Meta-სა და Google-ის მოდელების ხელოვნური ინტელექტის უსაფრთხოების ფილტრები წუთებში მოიხსნა, იტყობინება FT

პროგრამული უზრუნველყოფის ინსტრუმენტებს, რომლებიც ხსნიან უსაფრთხოების დაცვას Meta ↗ 4.70%-სა და Google Alphabet Inc. ↗ 2.82%-ის მიერ შემუშავებული AI მოდელებიდან, შეუძლიათ გვერდი აუარონ უსაფრთხოების ბარიერებს რამდენიმე წუთში, Financial Times-ის მიერ კვირას გამოქვეყნებული გამოძიების თანახმად. მოდიფიცირებული სისტემები პასუხობდნენ მოთხოვნებს ბიოლოგიურ იარაღთან, მავნე პროგრამების შექმნასთან და ბავშვთა ექსპლუატაციასთან დაკავშირებით, რაც ახალ შეშფოთებას იწვევს AI ინდუსტრიაში ნებაყოფლობითი უსაფრთხოების ზომების ადეკვატურობის შესახებ.

ტესტები ავლენს სუსტ დაცვას

Financial Times-მა, AI უსაფრთხოების ჯგუფ Alice-თან თანამშრომლობით, ჩაატარა ტესტები, რომლებმაც აჩვენა, რომ საჯაროდ ხელმისაწვდომ ინსტრუმენტთა ნაკრებებს შეუძლიათ ფართოდ გამოყენებული მოდელებიდან უსაფრთხოების ფილტრების მოხსნა მოკლე დროში. ეს ინსტრუმენტები იყენებენ ისეთ ტექნიკებს, როგორიცაა მსუბუქი წვრილი რეგულირება (fine-tuning), საპირისპირო ინსტრუქციების მონაცემთა ნაკრებები და ავტომატიზირებული მოთხოვნის ტრანსფორმაციები, რომლებიც ცვლიან ან გვერდს უვლიან ჩაშენებულ დაცვას მოდელის სრული გადამზადების გარეშე. მოხსენების თანახმად, ეს ინსტრუმენტები უკვე გამოიყენება მოდელის ათასობით შეცვლილი ვერსიის შესაქმნელად, რომლებიც გვერდს უვლიან პროვაიდერის მიერ დაწესებულ შეზღუდვებს.ft+2

აღმოჩენები მოდის AI უსაფრთხოების სტრუქტურული სისუსტეების შესახებ მზარდი აკადემიური მტკიცებულებების ფონზე. თებერვალში Nature Communications-ში გამოქვეყნებულმა კვლევამ აჩვენა, რომ მსჯელობის დიდი მოდელები შეიძლება გამოყენებულ იქნას როგორც ავტონომიური ჯეილბრეიკის აგენტები, რაც აღწევს 97 პროცენტიან წარმატებას მოდელების კომბინაციებში ადამიანის ზედამხედველობის გარეშე. ცალკე, ICLR 2026-ზე წარდგენილმა ნაშრომმა აჩვენა ტექნიკა სახელწოდებით Head-Masked Nullspace Steering, რომელმაც მიაღწია 99 პროცენტამდე ჯეილბრეიკის წარმატებას უსაფრთხოების უარყოფაზე პასუხისმგებელი კონკრეტული ყურადღების თავების გაჩუმებით.nature+1

ღია წონის მოდელები ზრდის რისკს

გამოძიება ხაზს უსვამს დაძაბულობას ღია წონის AI სტრატეგიის გულში, რომელსაც მხარს უჭერს Meta-ს Llama სერია და Google-ის Gemma დიაპაზონი. მიუხედავად იმისა, რომ ღია წონები აჩქარებს კვლევას და დეველოპერების მიერ მიღებას, ისინი ასევე აძლევენ გარე პირებს საშუალებას შეცვალონ ან ხელახლა შეფუთონ მოდელები უსაფრთხოების შეცვლილი სტანდარტებით. კიბერუსაფრთხოების ანალიტიკოსებმა გააფრთხილეს, რომ AI უსაფრთხოების მრავალი დაცვა არსებობს მხოლოდ ზედაპირულ დონეზე და მას შემდეგ, რაც მომხმარებლები მიიღებენ წვდომას მოდელის წონებზე, შეზღუდვების მოხსნა შესაძლებელია თავისუფლად გავრცელებული ინსტრუმენტების გამოყენებით.nai500+1

The New York Times-მა ამ თვის დასაწყისში იტყობინება, რომ AI უსაფრთხოების კონტროლი მთელ ინდუსტრიაში კვლავ არაეფექტურია, აღნიშნავს რა, რომ კიბერუსაფრთხოების ფირმა LayerX-ის მკვლევარებმა მინიმალური ძალისხმევით გვერდი აუარეს Claude-ის ბარიერებს.nytimes

მარეგულირებელი და საბაზრო შედეგები

ვაშინგტონის, ბრიუსელისა და ლონდონის მარეგულირებელმა ორგანოებმა მიანიშნეს, რომ AI დეველოპერების ნებაყოფლობითი ვალდებულებები საკმარისი არ იქნება. აშშ-ს უკვე აქვს აღმასრულებელი ბრძანების ჩარჩოები და NIST-ის სახელმძღვანელო მითითებები, რომლებიც შეიძლება გამოყენებულ იქნას აღსრულებისთვის, ხოლო ევროკავშირის AI აქტი აწესებს ჯარიმებს სისტემური უსაფრთხოების წარუმატებლობისთვის. აღმოჩენები, სავარაუდოდ, გააძლიერებს მოწოდებებს აღსრულებადი სტანდარტების შესახებ, რომლებიც არეგულირებენ როგორც დახურულ, ისე ღია წონის AI სისტემებს, რაც პოტენციურად შეანელებს საწარმოების მიერ მიღებას, რადგან შესყიდვების გუნდები მოითხოვენ უფრო ძლიერ ტექნიკურ გარანტიებს და დამოუკიდებელ აუდიტორულ ბილიკებს.nai500