Anthropic-ის წამყვანი სპეციალისტი: ხელოვნურ ინტელექტს კაცობრიობის განადგურების 10%-ზე მეტი შანსი აქვს

ევან ჰუბინგერმა, რომელიც Anthropic-ში ხელოვნური ინტელექტის უსაფრთხოების მიმართულებას ხელმძღვანელობს, სამშაბათს X-ზე დაწერა, რომ პირადად მიაჩნია, არსებობს 10%-ზე მეტი შანსი იმისა, რომ ხელოვნურმა ინტელექტმა მომდევნო ათწლეულში "შეიძლება გაანადგუროს ყველა ადამიანი". ამ განცხადებამ 10 მილიონზე მეტი ნახვა დააგროვა და საფინანსო წრეებში დიდი მითქმა-მოთქმა გამოიწვია კომპანიის მოსალოდნელ IPO-სთან დაკავშირებით.bbc+2

"ჯეიკობი მართალია – ჩვენ მართლაც გულწრფელად გვჯერა, რომ ხელოვნურ ინტელექტს შეუძლია გაანადგუროს ყველა ადამიანი! პირადად მე ვფიქრობ, რომ ეს შანსი 10%-ზე მეტია მომდევნო ათწლეულში", – წერს ჰუბინგერი. "მჯერა, რომ Anthropic მაქსიმუმს აკეთებს, მაგრამ ჩვენ ჯერ არ გვაქვს გეგმა ზეინტელექტის უსაფრთხოების პრობლემის გადასაჭრელად და არც სწორი მიმართულებით ვმოძრაობთ გარკვევით."x

თანამდებობიდან წასვლა, როგორც ჯაჭვური რეაქცია

ჰუბინგერის პოსტი იყო პასუხი ჯეიკობ კოქსონზე, ხელოვნური ინტელექტის მკვლევარზე, რომელმაც X-ზე განაცხადა, რომ ტოვებს Anthropic-ს სამი წლის მუშაობის შემდეგ, რომელიც მან როგორც Anthropic-ში, ისე OpenAI-ში გაატარა. კოქსონმა ორივე კომპანია დაადანაშაულა "თვითგანვითარებადი ზეინტელექტისკენ სწრაფვაში და ჩვენი სიცოცხლით აზარტულ თამაშში".nypost+1

"ადამიანებს, რომლებიც ხელოვნურ ინტელექტს ქმნიან, გულწრფელად სჯერათ, რომ მას შეუძლია გაგვანადგუროს ათწლეულის ბოლომდე. ეს არ არის მარკეტინგული ხრიკი", – წერს კოქსონი და დასძენს, რომ ხელმძღვანელები და უფროსი მკვლევარები პირად საუბრებში გამოხატავენ შიშს, რომელსაც საჯაროდ არბილებენ.saudigazette+1

Anthropic-ის კიდევ ერთმა თანამშრომელმა, მასშტაბური ზედამხედველობის ხელმძღვანელმა სამუელ მარქსმა, იმავე თემაში დაამატა თავისი შეფასება: "ზოგადად, რაც უფრო მაღალი რანგის თანამშრომელია, მით უფრო შეშფოთებულია იგი".breitbart

კრამერის ცვლილება: ჰაიპიდან ყოყმანამდე

ამ გამჟღავნებამ უჩვეულო სცენა შექმნა CNBC-ზე. სამშაბათს საღამოს გადაცემაში Mad Money, ჯიმ კრამერმა მაყურებელს უთხრა, რომ Anthropic "შეიძლება გახდეს გიგანტური IPO და ინვესტორები გაყიდიან სხვა აქციებს, რათა ფული მოაგროვონ მასში მონაწილეობისთვის". ოთხშაბათს დილით, გადაცემაში Squawk on the Street, მან ჰუბინგერის შეფასება ქირურგიული ოპერაციის რისკებს შეადარა. "თუ ოდესმე ყოფილხართ სიტუაციაში, როცა გჭირდებათ ოპერაცია და ლეტალობის რისკი 5%-ზე მეტია, არა, თქვენ ამას არ გააკეთებთ… 10% არის 5%-ის ორმაგი", – თქვა კრამერმა და დასძინა, რომ "ძალიან გაკვირვებულია, რომ ეს ადამიანი ჯერ კიდევ მუშაობს" Anthropic-ში.tech-insider+1

Anthropic-ს ჯერ არ წარუდგენია S-1 ფორმა SEC-ისთვის და რჩება კერძო კომპანიად, თუმცა Financial Times News Corp ↘ 10.66% იტყობინება, რომ აქციონერები ელიან კომპანიის საბაზრო ღირებულების 2 ტრილიონ დოლარზე მეტად შეფასებას. კომპანიამ მანამდე მოიზიდა H სერიის ინვესტიციები, რითაც მისი ღირებულება 965 მილიარდ დოლარად შეფასდა.247wallst+1

გაფრთხილებების ტენდენცია

ჰუბინგერის შეფასება იმ ფარგლებშია, რომელიც უკვე დაასახელეს ხელოვნური ინტელექტის სფეროს სხვა ცნობილმა ფიგურებმა. Anthropic-ის აღმასრულებელმა დირექტორმა დარიო ამოდეიმ მანამდე აღნიშნა კატასტროფული შედეგების დაახლოებით 25%-იანი ალბათობა, ხოლო ჯეფრი ჰინტონის შეფასებით, ეს მაჩვენებელი 10-დან 20%-მდეა, იტყობინება Axios. თუმცა, ჰუბინგერის განცხადებას განსაკუთრებული წონა აქვს, რადგან ის არის ოფიციალური პოზიცია თანამშრომლისა, რომლის სამუშაო სწორედ იმ პრობლემის გადაჭრაა, რომელიც, მისივე თქმით, გადაუჭრელი რჩება, და ეს განცხადება გაკეთდა IPO-სთან დაკავშირებული სპეკულაციების ფონზე.tech-insider

ეს ეპიზოდი მოჰყვა Financial Times-ის მოხსენებას, რომლის თანახმად, Anthropic-მა თავისი უახლესი მოდელი არ გაუზიარა დიდი ბრიტანეთის ხელოვნური ინტელექტის უსაფრთხოების ინსტიტუტს. კემბრიჯის უნივერსიტეტის მანქანური სწავლების პროფესორმა ნილ ლოურენსმა BBC-ს განუცხადა, რომ მოხსენება სარწმუნოა, იმ ფონზე, როდესაც შეერთებული შტატები "ხელოვნურ ინტელექტს ჩინეთთან შეჯიბრად აღიქვამს".bbc+1

არც Anthropic-ს და არც OpenAI-ს არ უჩვენებიათ განვითარების შენელების ნიშნები. OpenAI-ის მთავარმა მეცნიერმა იაკუბ პაჩოცკიმ ამ თვის დასაწყისში "უკიდურესი სიფრთხილისკენ" მოუწოდა, თუმცა პაუზის გამოცხადებისგან თავი შეიკავა. ხელოვნური ინტელექტის კომპანიების 1300 თანამშრომლის მიერ ხელმოწერილმა ღია წერილმა აშშ-ის მთავრობას მოუწოდა, დაეხმაროს "ხელოვნური ინტელექტის განვითარების ტემპის შეგნებულად დარეგულირებაში".saudigazette+1