DeepMind-ის ყოფილი მეცნიერი: ხელოვნური ინტელექტი იმდენად სწრაფად ვითარდება, რომ მისი კონტროლი შეუძლებელია

ალექს ტერნერმა, Google Alphabet Inc.-ის ↗ 0.78% DeepMind-ის მასშტაბირებადი შესაბამისობის გუნდის ყოფილმა მეცნიერმა, ორშაბათს Bloomberg-თან ინტერვიუში განაცხადა, რომ ხელოვნური ინტელექტის განვითარების ტემპი აღემატება მთავრობების, კომპანიებისა და ზესახელმწიფოების უნარს, მართონ მასთან დაკავშირებული რისკები. მისი კომენტარი გაკეთდა ხელოვნური ინტელექტის სფეროს ლიდერების მხრიდან ტექნოლოგიის სწრაფი განვითარების შეჩერებისკენ მოწოდებების ფონზე.

გამაფრთხილებელი ხმა

ტერნერმა Google DeepMind ივნისში დატოვა მას შემდეგ, რაც კომპანიამ პენტაგონთან გააფორმა ხელშეკრულება, რომელიც აშშ-ის თავდაცვის უწყებას საშუალებას აძლევს გამოიყენოს მათი ხელოვნური ინტელექტი გასაიდუმლოებული სამუშაოებისთვის. ტერნერის თქმით, ამ გარიგებას არ გააჩნდა სავალდებულო შეზღუდვები ავტონომიური იარაღის ან მასობრივი თვალთვალის წინააღმდეგ. მას შემდეგ ის გახდა ერთ-ერთი ყველაზე თვალსაჩინო ფიგურა, რომელიც ხელოვნური ინტელექტის ტრაექტორიის შესახებ აფრთხილებს საზოგადოებას. გასულ კვირას CNBC-თან საუბარში მან განაცხადა, რომ შეშფოთებულია ტექნოლოგიისგან მომდინარე "გადაშენების რისკით".cnbc+2

ორშაბათის ინტერვიუში ტერნერმა ხაზი გაუსვა რეკურსიულ თვითგანვითარებას, როგორც მთავარ საფრთხეს, და გააფრთხილა, რომ ამან შეიძლება სწრაფად შექმნას ადამიანის გაგების მიღმა მყოფი ინტელექტი. მან ასევე აღნიშნა, რომ გამოთვლითი სიმძლავრეების მონიტორინგი შეიძლება გახდეს რეგულირების პრაქტიკული ბერკეტი. ტერნერმა აღიარა, რომ ტექნოლოგიური გიგანტების მოწოდებები პროცესის შენელების შესახებ შეიძლება იყოს როგორც გულწრფელი, ისე სტრატეგიული ნაბიჯი უპირატესობის შესანარჩუნებლად.bloomberg

ინდუსტრიის მზარდი შეშფოთება

ტერნერის გაფრთხილებები ხელოვნური ინტელექტის უსაფრთხოების შესახებ დებატების კრიტიკულ მომენტს ემთხვევა. შაბათს Anthropic-ის აღმასრულებელმა დირექტორმა დარიო ამოდეიმ გამოაქვეყნა 3800-სიტყვიანი ესე, სადაც ის ლაბორატორიებს მოუწოდებს, შეგნებულად შეანელონ შესაძლებლობების ზრდა. OpenAI-ის აღმასრულებელმა დირექტორმა სემ ალტმანმა და ილონ მასკმა საჯაროდ დაუჭირეს მხარი ამ გზავნილს. Google DeepMind-ის ხელმძღვანელმა დემის ჰასაბისმაც გამოთქვა თანხმობა.cnbc+1

ამოდეიმ წარმოადგინა სამსაფეხურიანი ჩარჩო: დამოუკიდებელი შემფასებლების ჩართვა ლაბორატორიებში, უსაფრთხოების სტანდარტების კოორდინაცია დემოკრატიულ ქვეყნებს შორის და საბოლოოდ, ამ შეთანხმებების გლობალურად გაფართოება, ჩინეთის ჩათვლით. თუმცა, ორშაბათის მდგომარეობით, არცერთ კონკურენტ ლაბორატორიას არ აუღია Anthropic-ის მსგავსი კონკრეტული ვალდებულება მესამე მხარის აუდიტორებისთვის თანამშრომლის დონის წვდომის მინიჭების შესახებ.shattered

ჩინეთის დილემა

გეოპოლიტიკური განზომილება კვლავ დიდ როლს თამაშობს. თავად ამოდეიმ ჩინეთი უწოდა "ყველაზე რთულ დილემად" ნებისმიერი შეზღუდვის წინადადებისთვის, რადგან არსებობს რისკი, რომ დასავლური ლაბორატორიების ცალმხრივმა თავშეკავებამ პეკინს მისცეს უპირატესობა. ტერნერმა სოციალურ ქსელში უპასუხა ტრამპის ადმინისტრაციის ხელოვნური ინტელექტის საკითხებში მრჩეველს, დევიდ საქსს, რომელმაც შეზღუდვების შესახებ მოწოდებები კონკურენციის შეფერხების მცდელობად შეაფასა. კვირას გამოქვეყნებულ სტატიაში ტერნერი წერდა, რომ გამოსავალი მარტივია: "ხელი შევუშალოთ კომპანიებს, მისცენ ხელოვნურ ინტელექტს თვითგანვითარების საშუალება ინტელექტის მართვადი დონის მიღმა".politomix+3