უსაფრთხოების შიში: წამყვანი AI ლაბორატორიები განვითარების შენელებას ითხოვენ

ხელოვნური ინტელექტის ინდუსტრია ყველაზე მნიშვნელოვანი შიდა დაპირისპირების წინაშე დგას ამ ტექნოლოგიის ფართო გავრცელების შემდეგ. წამყვანი ლაბორატორიები აღიარებენ, რომ რეკურსიული თვითგაუმჯობესება, როდესაც ხელოვნური ინტელექტის მოდელები ავტონომიურად ქმნიან უფრო ძლიერ მემკვიდრეებს, იმაზე ახლოსაა, ვიდრე აქამდე მიიჩნევდნენ, ხოლო წამყვანი ხელმძღვანელები საჯაროდ კამათობენ იმის შესახებ, უნდა შეანელონ თუ დააჩქარონ პროცესი.

ათდღიანი ჯაჭვური რეაქცია

არეულობა 3 სექტემბერს დაიწყო, როდესაც OpenAI-მ თავისი უახლესი მოდელი, Astra წარადგინა, თუმცა კომპანიამ აღიარა, რომ იგი "სულ უფრო მეტად კარგავს კონტროლს ან თუნდაც მონიტორინგის შესაძლებლობას" იმ ხელოვნური ინტელექტის სისტემებზე, რომლებსაც უშვებს, იტყობინება Reuters. რამდენიმე დღის შემდეგ, 8 სექტემბერს, Anthropic-ის მკვლევარი ჯეიკობ კოქსონი გადადგა და სოციალურ ქსელში გამოქვეყნებულ პოსტებში გააფრთხილა საზოგადოება, რომ ხელოვნური ინტელექტის ლაბორატორიები "ჩვენი სიცოცხლით თამაშობენ". Anthropic-ის კიდევ ერთმა მკვლევარმა, ევან ჰუბინგერმა X-ზე დაწერა: "ჩვენ მართლაც გულწრფელად გვჯერა, რომ ხელოვნურ ინტელექტს შეუძლია ყველა ადამიანის განადგურება".reuters

12 სექტემბრისთვის Anthropic-ის გენერალურმა დირექტორმა დარიო ამოდეიმ გამოაქვეყნა თითქმის 4000-სიტყვიანი ესე, სადაც პროცესის შენელებისკენ მოუწოდა და გააფრთხილა საზოგადოება, რომ 6-დან 12 თვემდე პერიოდში ხელოვნური ინტელექტის აგენტების გუნდებს "შეეძლებათ მთელი ინტერნეტის ხელში ჩაგდება". მას შეუერთდნენ OpenAI-ის, Google-ის Alphabet Inc. ↗ 2.01% DeepMind-ის, Microsoft ↗ 2.58%-ისა და xAI-ის ხელმძღვანელები იშვიათი ერთობლივი მოწოდებით, რათა შეანელონ განვითარება და მისცენ გარე კომპანიებს მათი სისტემების უსაფრთხოების შემოწმების უფლება.reuters

განხეთქილება: ამოდეი ჰუანგის წინააღმდეგ

ამას ყველა არ ეთანხმება. Nvidia ↘ 4.81%-ის გენერალურმა დირექტორმა ჯენსენ ჰუანგმა უარყო მოსაზრება, რომ ხელოვნური ინტელექტის განვითარება უნდა შეჩერდეს. "ჩვენ უნდა ვიმოძრაოთ რაც შეიძლება სწრაფად, სხვებისგან დამოუკიდებლად", – განაცხადა ჰუანგმა CBS News-თან ინტერვიუში, რომელიც ამ უქმეებზე გადაიცემა. მან დასძინა: "ჩვენ არასდროს, არავითარ შემთხვევაში არ გამოვუშვებთ და არც უნდა გამოვუშვათ პროდუქტები, სანამ ისინი მზად არ იქნება, ან მივაწოდოთ მომხმარებელს ისეთი პროდუქტები, რომლებიც უსაფრთხო არ არის".cbsnews

Meta-ს ↗ 5.34% მარკ ცუკერბერგმაც მსგავსი პოზიცია დაიკავა და აღნიშნა, რომ თითოეულმა ლაბორატორიამ საკუთარი ტემპი უნდა განსაზღვროს, ნაცვლად იმისა, რომ კოორდინირებულად შეანელონ მთელი ინდუსტრია. "ლაბორატორიებს დიდი პასუხისმგებლობა ეკისრებათ, თუ მათი მოდელები ზიანს მიაყენებენ ვინმეს, ამიტომ მათ აქვთ ძლიერი სტიმული, რომ ეს თავიდან აიცილონ", – დაწერა მან სოციალურ ქსელში.reuters

გამოცემა The Wall Street Journal-მა News Corp ↗ 0.07% ეს დაპირისპირება გარდამტეხ მომენტად შეაფასა, სადაც ამოდეი სიფრთხილის სიმბოლოდ გვევლინება, ხოლო ჰუანგი – შეზღუდვების წინააღმდეგ მიმართულ მთავარ ხმად.wsj

რეკურსიული თვითგაუმჯობესება რეალობას უახლოვდება

შეშფოთებას საფუძვლად უდევს კონკრეტული პროგრესი რეკურსიული თვითგაუმჯობესების მიმართულებით. Anthropic-მა ამ კვირაში განაცხადა, რომ მისი მოდელი Claude ამჟამად კომპანიის საკუთარი კვლევებისა და განვითარების 26%-ს უძღვება, იტყობინება Associated Press. OpenAI-მ შეიმუშავა ავტომატიზებული "მკვლევარი სტაჟიორი" და მიზნად ისახავს სრულად ავტომატიზებული ხელოვნური ინტელექტის "მკვლევრის" შექმნას 2028 წლის მარტისთვის. ილონ მასკმა განაცხადა, რომ xAI-ის Grok მოდელებმა შესაძლოა მიაღწიონ სრულად ავტომატიზებულ თვითგაუმჯობესებას მიმდინარე წლის ბოლომდე.wral

მკვლევრებმა ამ თვის დასაწყისში გააფრთხილეს საზოგადოება, რომ ზოგადი ხელოვნური ინტელექტი (AGI) შესაძლოა სულ რაღაც სამ წელიწადში გამოჩნდეს. "ეს ალბათ ყველაზე ცუდი იდეაა კაცობრიობის ისტორიაში", – განაცხადა ენტონი აგირემ, სიცოცხლის მომავლის ინსტიტუტის (Future of Life Institute) პრეზიდენტმა, ხელოვნური ინტელექტის სრულად ავტონომიური თვითგაუმჯობესების მცდელობის კომენტირებისას.reuters+1

ამავდროულად, პრეზიდენტმა დონალდ ტრამპმა ხელოვნური ინტელექტის უსაფრთხოების შესახებ განგაში "თაღლითობად" შეაფასა და გააფრთხილა, რომ ნებისმიერი შენელება მხოლოდ ჩინეთს მოუტანს სარგებელს. კონგრესს მცირე პროგრესი აქვს ხელოვნური ინტელექტის რეგულირების კუთხით, მაშინ როდესაც ჩინეთმა უკვე გადადგა ნაბიჯები დეველოპერებისთვის ვალდებულებებისა და სახელმწიფოს მიერ მხარდაჭერილი უსაფრთხოების სტანდარტების შემოთავაზებისკენ.reuters

Microsoft-ის ხელოვნური ინტელექტის მიმართულების ხელმძღვანელმა, მუსტაფა სულეიმანმა სერიოზული დასკვნა გააკეთა: "ჩვენ ყველანი ერთსა და იმავე მიზანზე ვართ ორიენტირებულნი, რაც სუპერინტელექტის გაკონტროლების მცდელობას გულისხმობს. ვფიქრობ, ეს იქნება ყველაზე დიდი გამოწვევა, რომლის წინაშეც 21-ე საუკუნეში აღმოვჩნდებით".reuters