Anthropic-ის აღმასრულებელი დირექტორი შეცდომებს აღიარებს და AI-ს განვითარების კურსს იცავს

Anthropic-ის აღმასრულებელმა დირექტორმა დარიო ამოდეიმ სამშაბათს, 20 ოქტომბერს, X-ზე თითქმის 2000-სიტყვიანი პასუხი გასცა კომპანიის ერთ-ერთ ყველაზე გავლენიან კრიტიკოსს. როგორც Business Insider იტყობინება, მან აღიარა, რომ Anthropic-მა ზოგიერთი საკითხი არასწორად მართა, თუმცა დაამატა, რომ ხელოვნური ინტელექტის ტექნოლოგიური ზღვარის შენარჩუნება უსაფრთხოების უზრუნველყოფის საუკეთესო გზაა. ის პასუხობდა ნათან კელვინს, არაკომერციული ორგანიზაცია Encode AI-ს სტრატეგიის მთავარ ოფიცერს. ორშაბათს გამოქვეყნებულ 1500-სიტყვიან პოსტში კელვინმა ჩამოთვალა ცხრა ქმედება, რომელიც, მისი თქმით, ადასტურებს, რომ Anthropic უსაფრთხოების ვალდებულებების ხარჯზე სუპერინტელექტისკენ მიისწრაფვის. მათ შორისაა 500 მილიარდ დოლარზე მეტი ღირებულების გამოთვლითი რესურსების გარიგებები და Claude-ზე მზარდი დამოკიდებულება საკუთარი მოდელების შესაქმნელად.businessinsider.com

ძვირადღირებული გადაწყვეტილებების საპირისპირო სია

"ჩვენი სტრატეგია ყოველთვის იყო ის, რასაც მე 'მწვერვალისკენ რბოლას' ვუწოდებდი. იმის ჩვენებით, თუ როგორ არის შესაძლებელი ტექნოლოგიის პასუხისმგებლიანად აშენება, ჩვენ ვუწევთ სტანდარტს მთელი ინდუსტრიისთვის," წერს ამოდეი. მან ასევე აღნიშნა, რომ "ნებისმიერი გადაწყვეტილება, ნებისმიერ თემაზე, ყოველთვის შეიძლება წარმოჩენილ იქნას როგორც ბოროტი სქემა".indiatoday.in+1

შემდეგ მან ჩამოთვალა საკუთარი ცხრა გადაწყვეტილება, რომლებიც, მისი თქმით, კომერციულად ძვირი დაუჯდათ, მაგრამ უსაფრთხოება გააუმჯობესა. მათ შორისაა კალიფორნიის SB 53 კანონპროექტის მხარდაჭერა, ბიოლოგიური ბოროტად გამოყენების წინააღმდეგ მკაცრი დაცვის მექანიზმების შენარჩუნება და მოწინავე მოდელების ფართო გამოშვების გადადება მანამ, სანამ კიბერუსაფრთხოების უფრო ძლიერი დაცვა არ იქნებოდა მზად. მან ასევე მიუთითა Mythos-ის მოდელის მხოლოდ კიბერუსაფრთხოების პარტნიორების მცირე ჯგუფისთვის მიწოდებაზე და ჩინეთის სახელმწიფოს მიერ კონტროლირებადი კომპანიებისთვის გაყიდვების შეზღუდვაზე. მან აღიარა, რომ ზღვრული შესაძლებლობების შეკავებას "უფრო ფართო ხარჯი ჰქონდა", მათ შორის ბიოლოგიის სფეროში პროგრესის შენელება.businessinsider.com+1

კანონპროექტის ირგვლივ არსებული დავა

ამოდეიმ აღიარა, რომ Anthropic-ს შეეძლო კელვინის ზოგიერთი პუნქტის უკეთ მართვა. ერთ-ერთი მათგანია ფედერალური კანონპროექტის პროექტი, რომელიც კომპანიამ ამ თვეში კონგრესში გაავრცელა და რომელიც, კრიტიკოსების თქმით, მთავრობას გაურთულებს სახიფათო მოდელების დაბლოკვას. Politico-ს მიერ პირველად გავრცელებული პროექტის თანახმად, ფედერალურ ოფიციალურ პირებს მოდელის შეჩერება მხოლოდ იმ შემთხვევაში შეეძლებათ, თუ ის ქმნის "1 მილიარდ დოლარზე მეტი ზიანის ან 50-ზე მეტი ადამიანის დაღუპვის ან სერიოზული დაზიანების პროგნოზირებად, გარდაუვალ რისკს". Anthropic-ის სპიკერმა განაცხადა, რომ პროექტი ასახავს კომპანიის მოწინავე AI ჩარჩოს.politico.com+3

კელვინმა ასევე გააკრიტიკა Anthropic-ი პასუხისმგებლიანი მასშტაბირების პოლიტიკის შეცვლის გამო. თებერვალში კომპანიამ უარი თქვა ვალდებულებაზე, შეეჩერებინა მუშაობა, თუ მისი უსაფრთხოების ზომები მოდელების შესაძლებლობებს ჩამორჩებოდა. "რატომ აქვს შეცდომებს სისტემატურად Anthropic-ის ინტერესების დაცვისა და მხარდაჭერის ტენდენცია?" – იკითხა კელვინმა.chaincatcher.com+1

შემოწმება IPO-მდე

ეს დისკუსია იმ დროს მიმდინარეობს, როდესაც Anthropic ემზადება პირველადი საჯარო შეთავაზებისთვის (IPO), რომელიც ნოემბერშია მოსალოდნელი და 2 ტრილიონი დოლარის შეფასებას გულისხმობს. გასულ კვირას კომპანიამ მესამე კვარტლის 16.8 მილიარდი დოლარის შემოსავალი გამოაცხადა.businessinsider.com

ამოდეიმ საუბარი დაუმორჩილებლობის ნოტით დაასრულა. "ჩვენ ყოველთვის ვეცდებით უკეთესად ვიმუშაოთ, მაგრამ, კიდევ ერთხელ, მე ძალიან ვამაყობ ჩვენი მიღწევებით და მტკიცედ ვიცავ მათ," დაწერა მან.businessinsider.com