ჰინტონი: ხელოვნური ინტელექტის მიერ კაცობრიობის განადგურების 10 პროცენტიანი შანსი რეალურია

ნობელის პრემიის ლაურეატმა, კომპიუტერულმა მეცნიერმა ჯეფრი ჰინტონმა სამშაბათს BBC Newsnight-ის ეთერში განაცხადა, რომ ხელოვნური ინტელექტის მიერ მომდევნო ათწლეულში კაცობრიობის განადგურების 10%-იანი ალბათობა "არ არის უსაფუძვლო შეფასება". ამ განცხადებამ წამყვანი ვიქტორია დერბიშირი ეთერში აშკარად დააბნია.ndtvprofit+1

"ჩვენ არასდროს შეგვიქმნია არსებები, რომლებიც მალე შეიძლება ჩვენზე ჭკვიანები გახდნენ. ჩვენ არ ვიცით, რა მოხდება," თქვა ჰინტონმა, როდესაც დერბიშირმა ჰკითხა, იყო თუ არა ეს ციფრი სანდო. "10%-იანი შანსი ჩემთვის არ არის უსაფუძვლო შეფასება. თუმცა, არავინ იცის, როგორ უნდა გაკეთდეს ზუსტი პროგნოზი." როდესაც დერბიშირმა მისი სიტყვები გაიმეორა, ჰინტონმა უპასუხა: "დიახ." მისმა რეაქციამ – "ვაუ… ღმერთო ჩემო" – ინტერნეტში სწრაფად მოიარა.ndtv+1

როგორ შეიძლება გამოიწვიოს ხელოვნურმა ინტელექტმა კატასტროფა

ჰინტონმა, რომელმაც 2024 წელს ფიზიკის დარგში ნობელის პრემია მიიღო მანქანური სწავლების სფეროში მუშაობისთვის, თქვა, რომ მოწინავე ხელოვნურ ინტელექტს არ სჭირდება სამყაროზე ფიზიკური კონტროლი, რათა ეგზისტენციალური საფრთხე შექმნას. "მას შეუძლია სრული ქაოსი გამოიწვიოს მხოლოდ ადამიანებთან საუბრით," თქვა მან. "მას ასევე შეუძლია შექმნას ძალიან საშიში ვირუსები – ბიოლოგიური და კომპიუტერული ვირუსები. მას შეუძლია დამანგრეველი კიბერშეტევების განხორციელება." მან დაამატა, რომ "ძალიან სულელურია" იმის ფიქრი, რომ რისკი მხოლოდ 1%-ია.ndtvprofit+1

სტიუარტ რასელმა, UC Berkeley-ის პროფესორმა, გაიზიარა ეს შეშფოთება და Business Insider-ს განუცხადა, რომ ხელოვნურ ინტელექტს ან მის მიერ მართულ აქტორებს შეუძლიათ შეუტიონ კრიტიკულ ინფრასტრუქტურას, მათ შორის ელექტროენერგიის, წყლის, ტრანსპორტისა და ფინანსურ სისტემებს.businessinsider

Anthropic-იდან წასვლა, რამაც დებატები გამოიწვია

ჰინტონის ინტერვიუს წინ უძღოდა მოვლენათა ჯაჭვი, რომელიც 8 სექტემბერს დაიწყო, როდესაც ჯეიკობ კოქსონმა, OpenAI-სა და Anthropic-ის ყოფილმა მკვლევარმა, საჯაროდ დატოვა თანამდებობა. "არცერთი კომპანია არ მოქმედებს პასუხისმგებლობით," დაწერა კოქსონმა X-ზე. "ისინი პირდაპირ მიეშურებიან თვითგანვითარებადი სუპერინტელექტისკენ და ჩვენი სიცოცხლით თამაშობენ."ibtimes+1

Anthropic-ის ალინმენტის მეცნიერების ხელმძღვანელმა, ევან ჰუბინგერმა, საჯაროდ უპასუხა, რომ კოქსონი "მართალია" და რომ მას პირადად სჯერა, რომ არსებობს 10%-ზე მეტი შანსი იმისა, რომ ხელოვნურმა ინტელექტმა მომდევნო ათწლეულში კაცობრიობა გაანადგუროს. "ჩვენ ჯერ არ გვაქვს სუპერინტელექტის მართვის გეგმა და არც სწორ გზაზე ვდგავართ," დაწერა ჰუბინგერმა.businessinsider+1

მკვეთრი დაპირისპირება ექსპერტებს შორის

ყველა მკვლევარი არ იზიარებს ამ განგაშს. გარი მარკუსმა, ხელოვნური ინტელექტის მკვლევარმა, Business Insider-ს განუცხადა, რომ ის კიბერშეტევებს, ბიოლოგიურ იარაღსა და დეზინფორმაციას სერიოზულ რისკებად მიიჩნევს, მაგრამ არ თვლის, რომ გადაშენება რეალისტური მოკლევადიანი შედეგია. "არსებობს ძალიან სერიოზული საფრთხეები, მაგრამ არ არსებობს რეალისტური სცენარი, რომელიც მე ვიცი, 'კაცობრიობის სრულად განადგურების' შესახებ," თქვა მან. Meta-ს ↗ 0.84% იან ლეკუნმა ადრე უარყო ასეთი ალბათობის შეფასებები, როგორც ინტუიციური განცდები – დახასიათება, რომელიც თავად ჰინტონმაც ნაწილობრივ მიიღო და CNN-ს უთხრა, რომ "ვინც ასეთ ალბათობებს აფასებს, სინამდვილეში უბრალოდ გამოიცნობს".businessinsider+1

ITV-ის წამყვანმა რობერტ პესტონმა დებატებში თავისი პოზიციაც დააფიქსირა და X-ზე დაწერა: "ცოტა გაკვირვებული ვარ, რომ ამას მეტი ყურადღება არ მოჰყოლია, მათ შორის მთავრობის მხრიდანაც."ladbible