Anthropic-მა IPO-ს ფასების დიაპაზონი დაადგინა და ხელოვნური ინტელექტის საფრთხეებზე გააფრთხილა

Anthropic-ის IPO-ს პროსპექტი აფრთხილებს, რომ განვითარებულმა ხელოვნურმა ინტელექტმა შესაძლოა "კატასტროფული ან ეგზისტენციალური საფრთხე შეუქმნას კაცობრიობას". ამ განცხადებამ საზოგადოებაში მწვავე კამათი გამოიწვია იმის შესახებ, თუ რამდენად სერიოზულად უნდა აღვიქვათ ხელოვნური ინტელექტის მიერ მოსალოდნელი კატასტროფის პროგნოზები. კომპანიამ სამშაბათს, 10 ნოემბერს, წარადგინა განახლებული პროსპექტი, რომელიც განსაზღვრავს ფასების დიაპაზონს, რაც კომპანიას 1.4 ტრილიონ დოლარამდე აფასებს. კომენტატორები ახლა აფასებენ, არის თუ არა ეს გაფრთხილებები საღი გამჟღავნება, მარკეტინგული ინსტრუმენტი თუ გადაჭარბებული შეფასება.reuters.com

რას ამბობს დოკუმენტი

დოკუმენტში ნათქვამია, რომ შეშფოთება გამოითქვა "როგორც ჩვენს ორგანიზაციაში, ისე სხვა მკვლევრების მიერ", რომ მძლავრმა ხელოვნური ინტელექტის სისტემებმა შესაძლოა ეგზისტენციალური საფრთხე შექმნას. მასში აღნიშნულია, რომ ეს რისკები ყველაზე მაღალია, თუ ასეთი სისტემები "არასწორად იქნება გამოყენებული, რეპლიცირებული, იარაღად ქცეული ან თუ მათ მიეცემათ მაღალი ხარისხის ავტონომიით მოქმედების საშუალება". ასევე გაფრთხილებულია, რომ მის მოდელებს შეუძლიათ "თვითშენარჩუნების ქცევების" მეშვეობით განახორციელონ "მავნე ქმედებები დამოუკიდებლად და მასშტაბურად, ადამიანის ჩარევის გარეშე". 10 ნოემბრის შესწორებაში Anthropic-მა განაცხადა, რომ მიაღწია უსაფრთხოების შიდა ზღვარს თავის პასუხისმგებლიანი მასშტაბირების პოლიტიკაში. ეს ზღვარი დაკავშირებულია ხელოვნური ინტელექტის მიერ კვლევის ტემპის დაახლოებით გაორმაგებასთან და კომპანიამ განაცხადა, რომ განიხილავს ცვლილებებს "ადამიანების კონტროლის ქვეშ შესანარჩუნებლად". ახალი ამბების თანახმად, აქციებით ვაჭრობა 19 ნოემბერს დაიწყება.deadline.com+2

სკეპტიციზმი 10%-იანი მაჩვენებლის მიმართ

WFAA-სთან ინტერვიუში UT Dallas-ის პროფესორმა სრირამ ნატარაჯანმა განაცხადა, რომ არ ელოდება "ტერმინატორის" სცენარს. "ჩემი შიში ყოველთვის ადამიანებია და არა აუცილებლად თავად ხელოვნური ინტელექტის სისტემა", – თქვა მან და დასძინა, რომ კრიტიკულ ინფრასტრუქტურაზე თავდასხმები უფრო სარწმუნო საფრთხეა. მან ეჭვი შეიტანა ფართოდ გავრცელებულ მტკიცებაში, რომ არსებობს 10%-ზე მეტი შანსი იმისა, რომ ხელოვნურმა ინტელექტმა კაცობრიობა ათწლეულის განმავლობაში გაანადგუროს, და აღნიშნა, რომ ეს რიცხვი "არ არის მიღებული რაიმე კონკრეტულად გაზომვადი მონაცემიდან". მან ასევე მოითხოვა დამოუკიდებელი ტესტირება: "ჩვენ არ ვაძლევთ ავტომობილების მწარმოებლებს უფლებას, თავად ჩაატარონ საკუთარი ავარიული ტესტები". ეს შეფასება Anthropic-ის ხელოვნური ინტელექტის შესაბამისობის მეცნიერების ხელმძღვანელის, ევან ჰუბინგერისგან მოდის. მან ეს სექტემბერში გამოაქვეყნა, მას შემდეგ, რაც მკვლევარმა ჯეიკობ კოქსონმა თანამდებობა დატოვა და განაცხადა, რომ ხელოვნური ინტელექტის ლაბორატორიები "ჩვენი სიცოცხლით თამაშობენ".wfaa.com+1

პროდუქტიულობის საპირისპირო არგუმენტი

South China Morning Post-ში Alibaba Group Holding Limited ↘ 1.29%-სთვის დაწერილ სვეტში ალექს ლო-მ პროსპექტის გაფრთხილებებს "გენიალური რეკლამა" უწოდა. მან დაასაბუთა, რომ "უკიდურესი დაშინება ბიზნესისთვის მომგებიანია" ხელოვნური ინტელექტის რბოლაში, რომელიც აშშ-სა და ჩინეთს შორის პატიმრის დილემად არის წარმოდგენილი. მან ეს შეხედულება დაუპირისპირა Meta Platforms ↘ 1.05%-ს მონაცემთა მთავარი ოფიცრის, ალექს შულცის შენიშვნებს Financial Times-ის ხელოვნური ინტელექტის მომავლის სამიტზე. შულცმა განაცხადა, რომ მოსახლეობის კლება ხელოვნური ინტელექტის პროდუქტიულობის ზრდას აუცილებელს ხდის. "ჩვენ სასოწარკვეთილად გვჭირდება მეტი პროდუქტიულობა", – თქვა შულცმა და დასძინა, რომ "ინსტრუმენტების ქონა არ აქრობს სამუშაო ადგილებს, ის უბრალოდ ცვლის მათ". ლო-მ ამ შენიშვნებს თვითმომსახურება უწოდა, მაგრამ "არა უსაფუძვლო" და დაასრულა თავისი პასუხით კითხვაზე, მოკლავს თუ გადაარჩენს ხელოვნური ინტელექტი კაცობრიობას: "ალბათ ორივეს, როგორც ყველა მსოფლიოს შემცვლელმა ტექნოლოგიამ მანამდე".scmp.com