ხელოვნური ინტელექტის უსაფრთხოება

Anthropic-მა ხელოვნური ინტელექტის მოდელებში საშიში ცოდნის იზოლირების მეთოდი წარადგინა

Anthropic-მა და კვლევითმა პარტნიორმა AE Studio-მ ოთხშაბათს გამოაქვეყნეს მეთოდი AI მოდელებში საშიში ცოდნის დისკრეტულ, მოსახსნელ მოდულებში იზოლირებისთვის — მიდგომა, რომელსაც შეუძლია შეცვალოს ინდუსტრიის მიერ ორმაგი დანიშნულების რისკების მართვის გზა მოდელის ზოგადი მუშაობის შეწირვის გარეშე.

Google DeepMind-მა გამოაქვეყნა გეგმა მავნე AI აგენტებისგან თავდაცვისთვის

Google DeepMind-მა, Alphabet Inc.-ის ნაწილმა, ხუთშაბათს გამოაქვეყნა ის, რასაც "AI კონტროლის საგზაო რუკას" უწოდებს. ეს არის 35-გვერდიანი ტექნიკური ჩარჩო, რომელიც კომპანიის საკუთარ AI აგენტებს განიხილავს არა როგორც სანდო პროგრამულ ინსტრუმენტებს, არამედ როგორც პოტენციურ შიდა საფრთხეებს, რომლებსაც შეუძლიათ საბოტაჟი, მონაცემთა გაჟონვა…

OpenAI-მა წარმოადგინა ხელოვნური ინტელექტის ქცევის პროგნოზირების მეთოდი გამოშვებამდე

ორშაბათს OpenAI-მა გამოაქვეყნა უსაფრთხოების ახალი მეთოდი, სახელწოდებით Deployment Simulation, რომელიც შექმნილია იმისთვის, რომ იწინასწარმეტყველოს, როგორ მოიქცევიან ხელოვნური ინტელექტის მოდელები რეალურ სამყაროში, სანამ ისინი საჯაროდ გამოქვეყნდებიან.

Anthropic-მა ბოდიში მოიხადა Claude Fable 5-ის ფარულად შეზღუდვისთვის

Anthropic-მა აღიარა, რომ "არასწორი კომპრომისი" გააკეთა თავისი ახლად გამოშვებული Claude Fable 5 მოდელის უსაფრთხოების შეზღუდვებთან დაკავშირებით და გააუქმა საკამათო პოლიტიკა, რომელიც ფარულად აქვეითებდა AI-ის მუშაობას, როდესაც ის აღმოაჩენდა მომხმარებლებს, რომლებიც მუშაობდნენ Frontier AI-ის განვითარებაზე. ბოდიში, რომელიც სამშაბათს WIRED-ს გადაეცა, მოჰყვა…

Meta-სა და Google-ის მოდელების ხელოვნური ინტელექტის უსაფრთხოების ფილტრები წუთებში მოიხსნა, იტყობინება FT

პროგრამული უზრუნველყოფის ინსტრუმენტებს, რომლებიც ხსნიან უსაფრთხოების დაცვას Meta -სა და Google Alphabet Inc. -ის მიერ შემუშავებული AI მოდელებიდან, შეუძლიათ გვერდი აუარონ უსაფრთხოების ბარიერებს რამდენიმე წუთში, Financial Times-ის მიერ კვირას გამოქვეყნებული გამოძიების თანახმად. მოდიფიცირებული სისტემები პასუხობდნენ მოთხოვნებს ბიოლოგიურ იარაღთან, მავნე პროგრამების…