OpenAI, Anthropic და Microsoft-მა პარიზის ხელოვნური ინტელექტის უსაფრთხოების პაქტს მოაწერეს ხელი

ექვსმა მთავრობამ და ათმა AI კომპანიამ, მათ შორის Anthropic, OpenAI და Microsoft, ორშაბათს, 9 ნოემბერს, ხელი მოაწერეს პარიზის მოწოდებას ხელოვნური ინტელექტის უსაფრთხოებისა და დაცულობის შესახებ. ელისეს სასახლის ცნობით, დეკლარაცია მათ ავალდებულებს ფრონტირული მოდელების ერთობლივ შეფასებას, ინციდენტების ადრეული გაფრთხილების სისტემების შექმნას და დეველოპერების პასუხისმგებლობის გაზრდას. ეროვნული ხელმომწერები არიან ბაჰრეინი, კანადა, ფინეთი, საფრანგეთი, ნორვეგია და ნიდერლანდები. სხვა კომპანიებს შორის არიან Black Forest Labs, Cohere, Domyn, Hugging Face, Mistral AI, Sakana AI და Synthesia. დეკლარაცია არ არის სავალდებულო და ღიაა ახალი ხელმომწერებისთვის, ნათქვამია ტექსტში.elysee.fr+1

მაკრონის მიერ ორგანიზებული შეხვედრა

საფრანგეთის პრეზიდენტმა ემანუელ მაკრონმა ვიდეოკავშირის საშუალებით დაახლოებით 50 მონაწილე შეკრიბა, მათ შორის მსოფლიო ლიდერები, მკვლევრები და AI ლაბორატორიების ხელმძღვანელები, იტყობინება dpa. დიდი ბრიტანეთის, იაპონიისა და სიერა ლეონეს ლიდერები მონაწილეობდნენ მოლაპარაკებებში, თუმცა ხელმომწერებს შორის არ დასახელებულან. აშშ-ის ხაზინის მდივანი სკოტ ბესენტი და გაეროსა და OECD-ის წარმომადგენლები ასევე ესწრებოდნენ შეხვედრას, ისევე როგორც OpenAI-ის სემ ალტმანი, Anthropic-ის დარიო ამოდეი და Microsoft-ის პრეზიდენტი ბრედ სმიტი, იტყობინება Logistik Heute, dpa-ზე დაყრდნობით. მაკრონმა განაცხადა, რომ მონაწილეებმა პირობა დადეს, დამოუკიდებლად და საჯაროდ შეაფასონ ყველაზე მოწინავე მოდელების რისკები, უფრო ეფექტურად გააზიარონ გაფრთხილებები სერიოზული ინციდენტების შესახებ და პასუხისმგებლობა დააკისრონ დეველოპერებს. სამოქალაქო საზოგადოების ჯგუფებმაც მოაწერეს ხელი, მათ შორის იოშუა ბენჯიოს LawZero, SaferAI, AI Safety Connect და ფრანგული ანალიტიკური ცენტრი Ifri, განაცხადა ელისეს სასახლემ.dpa-international.com+2

სამი ვალდებულება

პირველი ვალდებულება არის ფრონტირული მოდელების რისკების შეფასებისა და მართვის საერთო ჩარჩო. ის ფოკუსირებულია კიბერ და CBRN (ქიმიური, ბიოლოგიური, რადიოლოგიური და ბირთვული) სფეროებში საშიშ ბოროტად გამოყენებაზე, ასევე მზარდი ავტონომიის, შეუსაბამობისა და კონტროლის დაკარგვის რისკებზე. ხელმომწერები შეთანხმდნენ, რომ გამოაქვეყნებენ თავიანთი შეფასებების არაკონფიდენციალურ შედეგებს სტანდარტიზებული ფორმატით საერთო საჯარო საცავში, დეკლარაციის თანახმად.presidentti.fi

მეორე ვალდებულება პასუხისმგებლობას ეხება. დეველოპერები ვალდებულებას იღებენ, გაამჟღავნონ მოდელის შესაძლებლობები, შეზღუდვები და ცნობილი რისკები, ასევე მხარი დაუჭირონ დამოუკიდებელ შემფასებლებს. ისინი ასევე პირობას დებენ, რომ შექმნიან დამცავ მექანიზმებს, რომლებსაც შეუძლიათ მოდელების პაუზა ან გამორთვა მათი კონტროლის ქვეშ, მათ შორის ტრენინგისა და შიდა გამოყენების დროს. პოლიტიკოსებმა, თავის მხრივ, პირობა დადეს, რომ დააზუსტებენ პასუხისმგებლობის საკითხს, როდესაც AI იწვევს ფართომასშტაბიან ზიანს, მათ შორის საზღვრისპირა ზიანს, ნათქვამია ტექსტში.presidentti.fi

მესამე ვალდებულება მოითხოვს სწრაფი შეტყობინების სისტემებს და სერიოზული კიბერ და AI კონტროლის ინციდენტების შესახებ ინფორმაციის უკეთ გაზიარებას. ის ასევე ავალდებულებს მთავრობებს, შესთავაზონ უსაფრთხო არხები მამხილებლებს, ელისეს სასახლის ცნობით.elysee.fr

დაძაბული უსაფრთხოების ფონი

დეკლარაცია გამოქვეყნდა 2 ნოემბერს მომხდარი სავარაუდო კიბერშეტევის კვირას, რომელმაც 11 ევროპულ ქვეყანაში სუპერმარკეტების სამაცივრე სისტემები გათიშა, იტყობინება Türkiye Today. იმავე ანგარიშში აღნიშნულია, რომ კიბერუსაფრთხოების ფირმამ Wiz ოქტომბერს „შავი ოქტომბერი“ უწოდა მას შემდეგ, რაც სულ მცირე ცხრა AI განვითარების პლატფორმამ გაამჟღავნა უსაფრთხოების ინციდენტები. ანგარიშში ნათქვამია, რომ ხელისუფლებას ჯერ არ დაუდგენია, იყო თუ არა შეტევები ერთმანეთთან დაკავშირებული ან ითამაშა თუ არა AI-მ როლი თითოეულ შემთხვევაში.turkiyetoday.com

ელისეს სასახლის განცხადებით, ქარტია მიზნად ისახავს ეროვნული და ევროპული საკანონმდებლო დებატების ინფორმირებას, იტყობინება Pollar.pollar.news