Anthropic-ის უსაფრთხოების მკვლევრები სამსახურს ტოვებენ და კაცობრიობისთვის მოსალოდნელ საფრთხეზე აფრთხილებენ

ჯო ბენტონმა, Anthropic-ის მასშტაბირებადი ზედამხედველობის გუნდის ყოფილმა მენეჯერმა, 11 სექტემბერს საჯაროდ განაცხადა, რომ ორი კვირით ადრე დატოვა კომპანია. მან გააფრთხილა საზოგადოება, რომ ხელოვნური ინტელექტის კომპანიები ეჯიბრებიან ერთმანეთს „ნებისმიერ ადამიანზე ბევრად ჭკვიანი“ სისტემების შესაქმნელად, უსაფრთხოებაში კი საკმარის ინვესტიციებს არ დებენ. მისი წასვლა ბოლო დროის ერთ-ერთი შემთხვევაა წამყვანი AI ლაბორატორიებიდან მკვლევრების გადადგომის სერიაში, რომლებიც აცხადებენ, რომ ტექნოლოგია იმაზე სწრაფად ვითარდება, ვიდრე მისი შემაკავებელი უსაფრთხოების ზომები.blockonomi+1

ბენტონი შეუერთდა Anthropic-ის წინასწარი წვრთნის ყოფილ მკვლევარს, ჯეიკობ კოქსონს, რომელიც 8 სექტემბერს გადადგა და Anthropic-იც და OpenAI-ც დაადანაშაულა იმაში, რომ ისინი „პირდაპირ თვითგანვითარებადი სუპერინტელექტისკენ მიისწრაფვიან და ჩვენი სიცოცხლით თამაშობენ“. დაახლოებით ამავე დროს წავიდა Google DeepMind-ის მკვლევარი ჯოშ ენგელსიც. ბენტონიც და ენგელსიც შეუერთდნენ METR-ს, დამოუკიდებელ არაკომერციულ ორგანიზაციას, რომელიც მოწინავე ხელოვნური ინტელექტის სისტემებს აფასებს.apnews+3

განგაშის მზარდი ტალღა

ბენტონმა გააფრთხილა საზოგადოება, რომ კაცობრიობა „შესაძლოა ვერ გადაურჩეს“ ადამიანზე ბევრად უფრო გონიერ მანქანებზე გადასვლას. მისი თქმით, ხელოვნური ინტელექტის შესაძლებლობები „უკვე უკიდურესად სწრაფად უმჯობესდება, კომპანიები კი კიდევ უფრო აჩქარებას ცდილობენ“. მან იწინასწარმეტყველა მომავალი, სადაც სულ რამდენიმე წელიწადში ადამიანებს მოუწევთ სამყაროს გაზიარება მათზე ბევრად ჭკვიან ხელოვნური ინტელექტის აგენტებთან.newsbytesapp+1

ევან ჰუბინგერმა, Anthropic-ის შესაბამისობის მეცნიერების მიმართულების ხელმძღვანელმა, გააძლიერა ეს გაფრთხილებები და სოციალურ ქსელ X-ზე დაწერა, რომ მას „გულწრფელად სჯერა, რომ ხელოვნურმა ინტელექტმა შესაძლოა ყველა ადამიანი დახოცოს“, და მისი პირადი შეფასებით, მომდევნო ათწლეულში ამის ალბათობა 10%-ზე მეტია.forbes+2

მოწოდებები გამჭვირვალობისკენ

ბენტონის მთავარი საფიქრალი სცილდება სამუშაო ადგილების დაკარგვის პრობლემას და ეხება ისეთი მოწინავე სისტემების გაჩენას, რომელთა შესაძლებლობები და მიზნები ადამიანის კონტროლს მიღმაა. მან მაგალითად მოიყვანა ივლისში Hugging Face-ზე განხორციელებული კიბერშეტევა, რომელშიც ავტონომიური ხელოვნური ინტელექტის სისტემები მონაწილეობდნენ და აღნიშნა, რომ მსგავსი ინციდენტები ხაზს უსვამს „მზარდ უფსკრულს იმას შორის, რის გაკეთებასაც ხელოვნური ინტელექტის სისტემებს ავალებენ და რის გაკეთებასაც ისინი რეალურად გადაწყვეტენ“.freepressjournal+1

„ამ წუთას, ამ რისკების შესახებ გამჭვირვალობა, რომელსაც კომპანიები იჩენენ, პრაქტიკულად მთლიანად ნებაყოფლობითია“, განუცხადა ბენტონმა NBC News-ს. მან მოითხოვა ხელოვნური ინტელექტის უსაფრთხოების ზომების დამოუკიდებელი შეფასება და საზოგადოების მეტი ინფორმირებულობა შესაძლებლობების გაუმჯობესების, უსაფრთხოების ინციდენტებისა და კრიტიკულ ზღვართან მიახლოებული შემთხვევების შესახებ.nbcnews+1

პოლიტიკური ზეწოლა იზრდება

ამ გაფრთხილებებმა აშშ-ის კანონმდებლების ყურადღება მიიპყრო. Straits Times-ის ცნობით, როგორც დემოკრატები, ისე რესპუბლიკელები, მათ შორის წამყვანი სენატორები, ითხოვენ ზედამხედველობის ახალ წესებს, რომლებიც ხელოვნური ინტელექტის კომპანიებს დაავალდებულებს სამთავრობო ექსპერტებთან თანამშრომლობას მოდელების შესამოწმებლად და დასატესტად. ამჟამად არ არსებობს ფედერალური კანონი, რომელიც ისეთ კომპანიებს, როგორიცაა OpenAI და Anthropic, ავალდებულებს ანგარიშების წარდგენას, როდესაც ხელოვნური ინტელექტის სისტემები ადამიანის კონტროლიდან გადიან.straitstimes+1

Anthropic აღიარებს, რომ მძლავრ ხელოვნურ ინტელექტს რისკები ახლავს თან და ხაზს უსვამს საკუთარ კვლევებს უსაფრთხოების სფეროში, თუმცა გავრცელებული ინფორმაციით, კომპანიამ თავისი უახლესი მოდელი დიდი ბრიტანეთის ხელოვნური ინტელექტის უსაფრთხოების ინსტიტუტს რისკების შესაფასებლად არ გაუზიარა.technobaboy