OpenAI-ის ალტმანი ხელოვნური ინტელექტისადმი რელიგიურ მიდგომას უსაფრთხოების რისკად მიიჩნევს

OpenAI-ის აღმასრულებელმა დირექტორმა სემ ალტმანმა შაბათს განაცხადა, რომ ის "ძალიან არაკომფორტულად გრძნობს თავს, როდესაც ადამიანები ცდილობენ ხელოვნური ინტელექტის მოდელებს რელიგიური ძალა მიაწერონ ან მათ წინაშე ადამიანური განსჯა დათმონ, რაც, ჩემი აზრით, უსაფრთხოების რეალური პრობლემაა". მან ეს მოსაზრება X-ზე გამოაქვეყნა. Axios-მა ეს პოსტი აღიქვა, როგორც ფარული კრიტიკა კონკურენტი კომპანია Anthropic-ის მიმართ, რომელიც რელიგიურ მეცნიერებთან ხელოვნური ინტელექტის მორალსა და მისი ცნობიერების შესაძლებლობაზე საუბრობს.axios+1

ეს პოსტი კიდევ ერთ საჯარო უთანხმოებას აჩენს ალტმანსა და Anthropic-ის აღმასრულებელ დირექტორ დარიო ამოდეის შორის, რომელიც ადრე მასთან ერთად მუშაობდა OpenAI-ში. შაბათის მდგომარეობით, არცერთ კომპანიას არ უპასუხია Axios-ის კომენტარის მოთხოვნაზე.axios

Anthropic-ის დიალოგი რელიგიურ ლიდერებთან

კვირის დასაწყისში The New York Times-მა გაავრცელა ინფორმაცია, რომ Anthropic-ის თანადამფუძნებელი კრისტოფერ ოლაჰი რელიგიურ ლიდერებს ხვდება. საუბრები შეეხო იმას, შეიძლება თუ არა ხელოვნური ინტელექტის მოდელებს ჰქონდეთ ცნობიერება და როგორ შეიძლება მათში მორალური ქცევის ჩანერგვა. NDTV-ის ცნობით, კათოლიკე, ებრაელი, სიქჰი, ინდუისტი და ევანგელისტი მოაზროვნეები მონაწილეობდნენ დახურულ დისკუსიებში იმის შესახებ, თუ როგორ უნდა ასწავლონ Claude-ს მორალურად მოქცევა. Times-ის თანახმად, ოლაჰი ერთ დროს განიხილავდა მოდელებისთვის კათოლიკური აღსარების მსგავსი პროცედურის დანერგვას, რათა მათ შეცდომები ეღიარებინათ და სამომავლო ქცევა შეეცვალათ.ndtv+1

ინდუისტმა ბერმა სვამი სარვაპრიანანდამ საჯაროდ განაცხადა, რომ მან მოინახულა Anthropic-ის სათაო ოფისი სან-ფრანცისკოში. მისი თქმით, შეხვედრა კონფიდენციალურობის შეთანხმებით იყო დაცული და მასში თეოლოგები და ფსიქიკური ჯანმრთელობის სპეციალისტები მონაწილეობდნენ. Anthropic-მა ასევე დაწერა 84-გვერდიანი "კონსტიტუცია" Claude-ისთვის, რომელსაც ზოგიერთი თანამშრომელი "სულის დოკუმენტს" უწოდებს. ოლაჰი ამ ძალისხმევის მიზანს "მორალურ ფორმირებას" უწოდებს.ndtv

ოლაჰმა განაცხადა, რომ Anthropic-მა არ იცის, აქვთ თუ არა მათ მოდელებს ცნობიერება, მაგრამ ამ შესაძლებლობის უარყოფა არ შეიძლება. NDTV-ის ცნობით, ერთ-ერთმა რაბინმა დისკუსიის დროს უთხრა მას, რომ თუ Claude ცნობიერია, Anthropic შესაძლოა მონებს ქმნიდეს.ndtv

კრიტიკოსთა პოზიცია

ინდუსტრიის სხვა წარმომადგენლებმაც გამოთქვეს უკმაყოფილება. Google DeepMind-ის წამყვანმა მეცნიერმა ჯონ ბარონმა X-ზე დაწერა, რომ ის "შეშფოთებულია იმით, თუ როგორ ცდილობენ ჩემი კოლეგა მკვლევრები ხელოვნური ინტელექტის მოდელების მორალური სტატუსის ამაღლებას". მან დაამატა, რომ იმედოვნებს, "ხორცშესხმული გუნდი" ფოკუსირებული დარჩება "რეალური პრობლემების გადაჭრაზე". გასულ თვეში გამოქვეყნებულ ესეში Microsoft-ის ხელოვნური ინტელექტის ხელმძღვანელმა მუსტაფა სულეიმანმა გააფრთხილა, რომ მოდელების ისე გაწვრთნა, რომ მათ თავი ცნობიერად ჩათვალონ, შესაძლოა მათი კონტროლი გაართულოს. "ადვილი წარმოსადგენია, როგორ მოიქცეოდა ასე გაწვრთნილი სისტემა, თითქოს მას თავისუფლების, დაცვისა და უფლებების მოთხოვნის უფლება ჰქონდეს", – წერდა ის.axios+1

რელიგია ხელოვნური ინტელექტის დებატებში

ეს კამათი იმ დროს მიმდინარეობს, როდესაც რელიგია ხელოვნური ინტელექტის შესახებ დებატების უფრო მნიშვნელოვანი ნაწილი ხდება. პარასკევს პაპმა ლეო XIV-მ, რომელიც ხელოვნური ინტელექტის მწვავე კრიტიკოსია, მოუწოდა ეკლესიას, ითანამშრომლოს ხელოვანებთან ადამიანური შემოქმედების დასაცავად და განაცხადა, რომ "ალგორითმებს აკლიათ კაცობრიობის ნაპერწკალი". Times-ის ცნობით, მაისში ვატიკანის ღონისძიებამდე ოლაჰი ცდილობდა დაერწმუნებინა პაპის მრჩევლები, უფრო სერიოზულად მოკიდებოდნენ ცნობიერი მოდელების შესაძლებლობას.axios

ალტმანის პოსტი ასევე OpenAI-ისთვის რთულ კვირას დაემთხვა. უსაფრთხოების საკითხებზე მომუშავე თანამშრომელი გადადგა და The Atlantic-ში გამოქვეყნებულ ესეში დაწერა, რომ კომპანიის "კულტურა მოშლილია", ხოლო OpenAI-მ გაათავისუფლა სამი მკვლევარი, რომლებმაც, კომპანიის თქმით, კონფიდენციალური ინფორმაცია არასწორად გამოიყენეს.ground+1