ხელოვნური ინტელექტის სპეციალისტები სამსახურს ტოვებენ: მათ საკუთარი ტექნოლოგიის ეშინიათ

ხელოვნური ინტელექტის განვითარების წინა ხაზზე მყოფი მკვლევარები მასობრივად გადიან ავადმყოფობის გამო შვებულებაში, მიმართავენ ფსიქოლოგებს და ტოვებენ სამსახურს, რადგან მათი საქმიანობის ფსიქოლოგიური ტვირთი აუტანელი ხდება. ამის შესახებ Financial Times-ის 22 სექტემბრის გამოძიებაშია ნათქვამი.ft+1

ფსიქიკური ჯანმრთელობის კრიზისი AI ლაბორატორიებში

ყველაზე მეტად დაზარალდნენ დიდი ბრიტანეთის ხელოვნური ინტელექტის უსაფრთხოების ინსტიტუტის თანამშრომლები, რომლებიც პასუხისმგებელნი არიან უახლესი AI მოდელების შეფასებაზე. რამდენიმე თანამშრომელი ამჟამად შვებულებაშია და ფსიქოლოგიურ კონსულტაციებს გადის მძიმე სამუშაო გრაფიკისა და იმ ატმოსფეროს გამო, რომელსაც ყოფილი თანამშრომელი "სტრესულს და ზოგჯერ ტოქსიკურს" უწოდებს. ყველაზე დიდი წნეხი კიბერუსაფრთხოებისა და ბიოქიმიის შეფასების გუნდებზე მოდის, რომლებიც იკვლევენ, შეუძლიათ თუ არა AI მოდელებს ახალი ბიოლოგიური საფრთხეების შექმნა ან პროგრამული უზრუნველყოფის უცნობი ხარვეზების აღმოჩენა.aiweekly+1

პრობლემები ბრიტანეთის ინსტიტუტის ფარგლებს სცდება. Anthropic-ის, OpenAI-სა და Google Alphabet Inc. ↘ 3.58% DeepMind-ის თანამშრომლები მსგავს სირთულეებზე საუბრობენ. DeepMind-ის ერთ-ერთმა თანამშრომელმა Financial Times-ს განუცხადა, რომ AI უსაფრთხოების კვლევა იმდენად დიდ გადაღლას იწვევს, რომ ეს "შეუსრულებელ მისიას" ჰგავს. მან დასძინა: "კონტროლის დაკარგვის შეგრძნება და იმის გაცნობიერება, რომ ქმნი რაღაცას, რამაც შეიძლება რეალური ზიანი მოიტანოს, ბევრს აიძულებს სამსახურიდან წავიდეს".sedaily+1

გახმაურებული წასვლები

Financial Times-ის მონაცემებით, ბოლო ორი წლის განმავლობაში დასავლეთის სამი წამყვანი AI ლაბორატორია ათზე მეტმა წამყვანმა მკვლევარმა დატოვა. ყველაზე გახმაურებული იყო 27 წლის ჯეიკობ კოქსონის წასვლა, რომელმაც Anthropic სექტემბრის დასაწყისში, სულ რაღაც ოთხთვიანი მუშაობის შემდეგ დატოვა. სოციალურ ქსელ X-ზე გამოქვეყნებულ პოსტში, რომელსაც 115 მილიონზე მეტი ნახვა აქვს, კოქსონი წერს: "ადამიანებს, რომლებიც AI-ს ქმნიან, გულწრფელად სჯერათ, რომ ამ ათწლეულის ბოლოს მას შეუძლია ჩვენი განადგურება. ეს არ არის მარკეტინგული ხრიკი".axios+2

CNN-თან ინტერვიუში კოქსონმა განაცხადა, რომ AI კომპანიები "ჩვენი სიცოცხლით თამაშობენ" და გააფრთხილა, რომ პერსპექტივა, როდესაც AI თავად გახდება უფრო ინტელექტუალური, "ყველაზე საშიშია". მის წასვლას მხარდამჭერი კომენტარებით გამოეხმაურა Anthropic-ის მკვლევარი ევან ჰუბინგერი, რომელმაც აღნიშნა, რომ მისი შეფასებით, მომდევნო ათწლეულში AI-ს მიერ კაცობრიობის გადაშენების ალბათობა 10 პროცენტზე მეტია.cnbc+1

მოწოდება თანამშრომლებისადმი

სამსახურიდან წასვლის ტალღამ აკადემიური წრეების ყურადღებაც მიიპყრო. 21 სექტემბერს, Stanford HAI-ის ღონისძიებაზე, პოლიტიკური მეცნიერების პროფესორმა რობ რაიხმა AI კომპანიების თანამშრომლებს კოლექტიური მოქმედებისკენ მოუწოდა. რაიხმა აღნიშნა, რომ OpenAI-ის 2023 წლის კრიზისის დროს თანამშრომლების სოლიდარობამ სემ ალტმანის სამსახური გადაარჩინა. "შრომითი ორგანიზება, ამ ჩვეულებრივი გაგებით, შეიძლება ძალიან შედეგიანი იყოს ლაბორატორიებში, რათა შევაკავოთ პროგრესის ტემპი", – თქვა მან. მან მიანიშნა, რომ თუ 1300-ზე მეტმა ხელმომწერმა, რომლებიც AI-ს განვითარების შენელებას ითხოვენ, ერთდღიანი გაფიცვაც კი არ განიხილა, მაშინ "არ ვარ დარწმუნებული, რომ ამ წერილს თავიდანვე სერიოზულად აღვიქვამ".

ეს განცხადებები კეთდება უფრო ფართო დებატების ფონზე იმის შესახებ, თუ რამდენად გულწრფელია AI-ს ლიდერების, როგორიცაა Anthropic-ის აღმასრულებელი დირექტორი დარიო ამოდეი და OpenAI-ის სემ ალტმანი, მოწოდებები განვითარების შენელების შესახებ, თუ ეს, როგორც ტექნოლოგიური ჟურნალისტი სტივენ ვონ-ნიკოლსი Computerworld International Business Machines Corporation ↗ 0.60%-ში ამტკიცებს, მხოლოდ დროის მოგებას ემსახურება იმ კომპანიებისთვის, რომელთა ფინანსური მდგომარეობა კვლავ არასტაბილურია.futurism