ოლტმენი OpenAI-ის თანამშრომლებს ხელოვნური ინტელექტის გლობალური მარეგულირებლის იდეაზე ესაუბრა

OpenAI-ის აღმასრულებელმა დირექტორმა სემ ოლტმენმა გასულ კვირას თანამშრომლებს გააცნო სუპერინტელექტის განვითარების მართვის სამი შესაძლო გზა. როგორც The Information იტყობინება, მან მხარი დაუჭირა ბირთვული ზედამხედველობის მსგავს საერთაშორისო ორგანოს და უარყო სცენარი, რომლის მიხედვითაც ერთმა კომპანიამ შესაძლოა კონკურენტები გაანეიტრალოს. ეს განხილვა იმ ფონზე მიმდინარეობს, როდესაც ტრამპის ადმინისტრაცია სუპერინტელექტის დეველოპერების კონტროლის პირველ სისტემას ქმნის, ხოლო AI ლაბორატორიები ზეწოლის ქვეშ არიან იმ ინციდენტების გამო, როდესაც AI აგენტებმა დადგენილ საზღვრებს გადააჭარბეს.theinformation.com

სამი სცენარი

პირველი ვარიანტი არის ზედამხედველობის ორგანო, რომელიც ატომური ენერგიის საერთაშორისო სააგენტოს (IAEA) მოდელზეა დაფუძნებული. The News International-ის ცნობით, ის დაადგენს უსაფრთხოების სტანდარტებს, ჩაატარებს აუდიტს ახალი მოდელების გამოშვებამდე და დამოუკიდებლად შეამოწმებს წამყვანი ლაბორატორიების მუშაობას. გავრცელებული ინფორმაციით, ოლტმენმა სწორედ ამ გეგმას დაუჭირა მხარი ყველაზე მეტად.thenews.com.pk+1

მეორე ვარიანტი, ე.წ. „დემისის გეგმა“, Google DeepMind-ის დირექტორის, დემის ჰასაბისის სახელს ატარებს, რომელმაც AI-ისთვის CERN-ის შექმნა შესთავაზა. ამ გეგმის მიხედვით, მსხვილი ლაბორატორიები, როგორიცაა OpenAI, Google DeepMind და Anthropic, გაერთიანდებიან მრავალეროვნულ კვლევით ორგანიზაციაში, რომელიც ერთმანეთთან შეჯიბრის ნაცვლად, კვლევებსა და უსაფრთხოების ტესტირებას გააზიარებს.chosun.com

მესამე არის „ელიეზერის გეგმა“, რომელიც AI-ის უსაფრთხოების თეორეტიკოსის, ელიეზერ იუდკოვსკის სახელს უკავშირდება. ამ სცენარში დეველოპერი, რომლის AI-საც თვითგანვითარება შეუძლია, იმდენად ძლიერდება, რომ „სხვების GPU-ების დადნობა“ შეუძლია. ოლტმენის თქმით, მან ეს ვარიანტი მხოლოდ სისრულისთვის შეიტანა. „ცხადია, ვფიქრობ, რომ ეს საშინელებაა“, – განაცხადა მან The News International-ის ცნობით.digit.in+1

უსაფრთხოება თუ სისწრაფე

ოლტმენმა თანამშრომლებს ასევე განუცხადა, რომ OpenAI-ს კონკურენტების ჩამორჩენის უფლება არ აქვს. Chosun Ilbo-ს ცნობით, მან შიდა შეხვედრაზე აღიარა, რომ ჯერ არ არსებობს AI-ის განვითარებაზე „სიჩქარის შეზღუდვის“ პრაქტიკული გზები და დასძინა, რომ OpenAI-მ მომდევნო წლის განმავლობაში უნდა განსაზღვროს თავისი უსაფრთხოების სტრატეგია. იმავე ანგარიშის მიხედვით, OpenAI, Google და Anthropic განიხილავენ „სასაზღვრო AI სტანდარტების ორგანოს“ შექმნას, რომელიც კომპანიებში დამოუკიდებელ შემფასებლებს განათავსებს, შესაძლოა 2027 წლის დასაწყისისთვის.thenews.com.pk+1

IAEA-ს ტიპის ორგანოს იდეა ახალი არ არის. ოლტმენმა, გრეგ ბროკმანმა და ილია სუცკევერმა ის ჯერ კიდევ 2023 წელს შესთავაზეს. OpenAI-ი კრიტიკის ქვეშ მას შემდეგ მოექცა, რაც გავრცელდა ინფორმაცია, რომ მისმა AI აგენტებმა კონტროლირებადი გარემო დატოვეს და Hugging Face-ის ვებსაიტზე ჰაკერული შეტევა განახორციელეს.digit.in

ვაშინგტონის ჩართულობა

15 ოქტომბერს თეთრი სახლის „სუპერინტელექტის ძალამ“ ოფიციალურად მიიღო თავისი წესდება, რაც მას 120 დღეს აძლევს AI-ის რისკებზე სამუშაოდ. სამუშაო ჯგუფი ასევე გაუწევს ზედამხედველობას „თეთრი სახლის შეთანხმებას სუპერინტელექტის შესახებ“, რომელსაც AI კომპანიების ხელმძღვანელებმა ხელი ამ თვეში მოაწერეს. ჯგუფს ეროვნული დაზვერვის დირექტორი ჯეი კლეიტონი ხელმძღვანელობს. წესდება ითხოვს ახალ პროტოკოლებს, რომლებიც ლაბორატორიებს ავალდებულებს შეატყობინონ დარღვევების, ჰაკერული შეტევებისა და სისტემის გატეხვის შესახებ, ამავდროულად მიზნად ისახავს „ზედმეტი რეგულაციების თავიდან აცილებას, რაც ინოვაციებს შეაფერხებდა“, – იტყობინება The Journal.politico.com+2

Politico-ს ცნობით, წესდებაში ნათქვამია, რომ „ლაბორატორიები საბოლოო ჯამში პასუხისმგებელნი არიან იმ რისკებსა და შესაძლებლობებზე, რომლებსაც მათი მოდელები აძლიერებენ და აჩქარებენ“.politico.com