Anthropic-ის თანადამფუძნებელი: ხელოვნური ინტელექტის გამორთვის მექანიზმი შესაძლოა კანონით გახდეს სავალდებულო

Anthropic-ისა და OpenAI-ის ყოფილმა მკვლევარმა ჯეიკობ კოქსონმა, რომლის გასულ კვირას გადადგომამ ტექნოლოგიურ ინდუსტრიაში დიდი შეშფოთება გამოიწვია, NBC News-ის გადაცემა Meet the Press-ში განაცხადა, რომ მიუხედავად იმისა, რომ ხელოვნური ინტელექტის სისტემების გამორთვა დღეს ტექნიკურად შესაძლებელია, ეს შესაძლებლობა შესაძლოა მალე გაქრეს. მისი გაფრთხილება მას შემდეგ გაჟღერდა, რაც Anthropic-ის თანადამფუძნებელმა ჯეკ კლარკმა BBC-ს განუცხადა, რომ მესამე მხარის მიერ ვერიფიცირებული "გამორთვის მექანიზმი" (kill switch) შესაძლოა ხელოვნური ინტელექტის კომპანიებისთვის კანონით სავალდებულო გახდეს.bbc

კოქსონმა, რომელმაც 9 სექტემბერს Anthropic დატოვა და დაწერა, რომ "ხელოვნური ინტელექტის შემქმნელებს გულწრფელად სჯერათ, რომ ათწლეულის ბოლოს მას შეუძლია გაგვანადგუროს", შაბათ-კვირას მედიასთან არაერთი ინტერვიუ მისცა, სადაც მხარი დაუჭირა Anthropic-ის აღმასრულებელი დირექტორის, დარიო ამოდეის მოწოდებას ხელოვნური ინტელექტის განვითარების შენელების შესახებ. შაბათს Meet the Press-ში საუბრისას მან აღნიშნა, რომ გამორთვის მექანიზმი "ამ ეტაპზე ბევრი ხელოვნური ინტელექტისთვის ალბათ იმუშავებდა", თუმცა გააფრთხილა, რომ "ძალიან მალე შესაძლოა ის აღარ იმუშაოს, რადგან სისტემამ შესაძლოა ინტერნეტის მასშტაბით ჰაკერული შეტევა განახორციელოს".thestatesman+2

ინდუსტრიის ლიდერები შეზღუდვების მომხრენი არიან

კოქსონის საჯარო კამპანიამ ისეთი კონკურენტები გააერთიანა, რომლებიც აქამდე მწვავედ უპირისპირდებოდნენ ერთმანეთს. ამოდეიმ შაბათ-კვირას უსაფრთხოების სამპუნქტიანი ჩარჩო შესთავაზა, რომელიც მოიცავს მუდმივ მესამე მხარის შემფასებლებს ხელოვნური ინტელექტის კომპანიებში, დემოკრატიულ ქვეყნებს შორის უსაფრთხოების საერთო სტანდარტებსა და საერთაშორისო კოორდინაციას. OpenAI-ის აღმასრულებელმა დირექტორმა სემ ალტმანმა, ილონ მასკმა და Google Alphabet Inc. ↗ 3.06% DeepMind-ის აღმასრულებელმა დირექტორმა დემის ჰასაბისმა მხარი დაუჭირეს შეზღუდვების დაწესების ფართო ინიციატივას.ciodive+1

Microsoft ↗ 1.97%-ის აღმასრულებელმა დირექტორმა სატია ნადელამ მხარდაჭერა გამოხატა და X-ზე დაწერა, რომ "სუპერინტელექტისკენ სწრაფვა უნდა ეფუძნებოდეს მთავარ პრინციპს: თუ ხელოვნური ინტელექტი, რომელსაც ჩვენ ვქმნით, არ ეხმარება კაცობრიობას და არ იმყოფება ადამიანის კონტროლის ქვეშ, ის არ იმსახურებს განვითარებას". ნადელამ მხარი დაუჭირა ჩაშენებულ შემფასებლებს და მოუწოდა მმართველობისკენ, რომელიც "მხოლოდ რამდენიმე სუბიექტს" გასცდება.thestatesman+1

დებატები გამორთვის მექანიზმის შესახებ საკანონმდებლო დონეზე გადადის

კლარკმა BBC-ს განუცხადა, რომ მიუხედავად იმისა, რომ "ლაბორატორიების უმეტესობას აქვს სისტემების დეაქტივაციის სხვადასხვა მეთოდი", მარეგულირებლებმა შესაძლოა ასეთი ზომები კანონით დაავალდებულონ. შეერთებულ შტატებში კანონმდებლებმა წამოაყენეს "გამორთვის მექანიზმის აქტი" (Kill Switch Act), რომელიც კომპანიებს გამორთვის მექანიზმების დანერგვას დაავალდებულებს და სამთავრობო უწყებებს გარკვეული ხელსაწყოების დეაქტივაციის მოთხოვნის უფლებას მისცემს.bbc

Anthropic-ის მკვლევარმა ევან ჰუბინგერმა ხაზი გაუსვა დებატების გადაუდებლობას და საჯაროდ განაცხადა, რომ მისი აზრით, ხელოვნური ინტელექტის მიერ კაცობრიობის გადაშენების ალბათობა "მომდევნო ათწლეულში 10%-ზე მეტია". ნობელის პრემიის ლაურეატმა ჯეფრი ჰინტონმა ამ შეფასებას "არარეალური არ უწოდა".bbc

ყველა არ ეთანხმება ამ მოსაზრებას. პრეზიდენტმა დონალდ ტრამპმა ორშაბათს გაავრცელა განცხადება, სადაც ეწინააღმდეგება განვითარების შენელებას და აფრთხილებს, რომ ამან შესაძლოა ამერიკის კონკურენტუნარიანობა შეარყიოს. დიდი ბრიტანეთის მთავრობამ ასევე უარყო გამორთვის მექანიზმის იდეა და განაცხადა, რომ "ეს ვერ შეაჩერებს განვითარებას ან არასწორ გამოყენებას სხვაგან".ciodive+1

კოქსონისთვის არგუმენტი მარტივია. "ჩემი პირადი აზრია, რომ მოვთხოვოთ და მივცეთ საშუალება ამჟამინდელ ლაბორატორიებს, თავად დაარეგულირონ საკუთარი თავი", – განუცხადა მან NBC News-ს. "მე ნამდვილად მჯერა, რომ ლაბორატორიების ხელმძღვანელები, განსაკუთრებით მათი ბოლო კომუნიკაციების გათვალისწინებით, სრულიად გულწრფელები არიან. მათ სურთ, რომ საკუთარი თავი შეანელონ".economictimes