AI անվտանգության մասնագետները հեռանում են աշխատանքից՝ վախենալով իրենց ստեղծած տեխնոլոգիաներից

Արհեստական բանականության մշակմամբ զբաղվող առաջատար հետազոտողները զանգվածաբար հիվանդության արձակուրդ են վերցնում, դիմում հոգեբանների և հրաժարական տալիս, քանի որ իրենց աշխատանքի հոգեբանական ծանրությունը դառնում է անտանելի, հայտնում է Financial Times-ը սեպտեմբերի 22-ին հրապարակված հետաքննության մեջ:ft+1

Հոգեկան առողջության ճգնաժամը AI լաբորատորիաներում

Մեծ Բրիտանիայի AI անվտանգության ինստիտուտի աշխատակիցները, որոնք պատասխանատու են առաջատար AI մոդելների գնահատման համար, ամենաշատն են տուժել: Մի քանի աշխատակիցներ ներկայումս գտնվում են հիվանդության արձակուրդում՝ ծանրաբեռնված գրաֆիկի և, ինչպես նախկին աշխատակիցներից մեկն է նկարագրել, «սթրեսային և երբեմն թունավոր» մթնոլորտի պատճառով: Այս ճնշումը հատկապես զգալի է կիբերանվտանգության և կենսաքիմիական գնահատման թիմերի համար, որոնք ուսումնասիրում են, թե արդյոք AI մոդելները կարող են նպաստել կենսաբանական նոր սպառնալիքների ստեղծմանը կամ ծրագրային ապահովման անհայտ խոցելիությունների հայտնաբերմանը:aiweekly+1

Խնդիրները տարածվում են Մեծ Բրիտանիայի ինստիտուտից դուրս: Anthropic, OpenAI և Google Alphabet Inc. ↘ 3.58% DeepMind ընկերությունների աշխատակիցները նույնպես նմանատիպ դժվարությունների մասին են հայտնում: DeepMind-ի աշխատակիցներից մեկը Financial Times-ին ասել է, որ AI անվտանգության հետազոտությունները այնքան հյուծիչ են, որ թվում են «անհնարին առաքելություն»՝ հավելելով. «Վերահսկողությունը կորցնելու զգացումը, ինչպես նաև իրական վնաս պատճառող բան ստեղծելու անհանգստությունը ստիպում են շատերին հրաժարական տալ կամ հիվանդության արձակուրդ վերցնել»:sedaily+1

Աղմկահարույց հրաժարականներ

Վերջին երկու տարվա ընթացքում արևմտյան երեք առաջատար AI լաբորատորիաներից հեռացել են ավելի քան մեկ տասնյակ ավագ հետազոտողներ: Վերջին ամենահայտնի հրաժարականը 27-ամյա Ջեյքոբ Քոքսոնինն է, ով սեպտեմբերի սկզբին լքեց Anthropic-ը ընդամենը չորս ամիս աշխատելուց հետո՝ հրաժարվելով զգալի արժեք ունեցող բաժնետոմսերից: X սոցիալական ցանցում ավելի քան 115 միլիոն դիտում հավաքած գրառման մեջ Քոքսոնը գրել է. «AI ստեղծողները անկեղծորեն հավատում են, որ այն կարող է սպանել մեզ բոլորիս մինչև տասնամյակի վերջ: Սա մարքեթինգային հնարք չէ»:axios+2

CNN-ին տված հարցազրույցում Քոքսոնը նշել է, որ AI ընկերությունները «խաղում են մեր կյանքի հետ» և նախազգուշացրել է, որ AI-ի ինքնուրույն ավելի խելացի դառնալու հեռանկարը «ամենասարսափելին է»: Նրա հրաժարականին աջակցող մեկնաբանություններով է հանդես եկել Anthropic-ի հետազոտող Էվան Հուբինգերը, ով գնահատել է, որ հաջորդ տասնամյակում AI-ի պատճառով մարդկության ոչնչացման հավանականությունը 10 տոկոսից ավելի է:cnbc+1

Աշխատողների գործողությունների կոչեր

Հրաժարականների այս ալիքը գրավել է ակադեմիական շրջանակների ուշադրությունը: Սեպտեմբերի 21-ին Stanford HAI միջոցառման ժամանակ քաղաքագիտության պրոֆեսոր Ռոբ Ռայխը կոչ է արել առաջատար AI ընկերությունների աշխատակիցներին մտածել կոլեկտիվ գործողությունների մասին: Ռայխը նշել է, որ OpenAI-ի 2023 թվականի ճգնաժամի ժամանակ աշխատակիցների համերաշխությունը փրկեց Սեմ Ալթմանի աշխատանքը: «Աշխատանքային կազմակերպումը կարող է շատ կարևոր լինել լաբորատորիաներում՝ առաջընթացի տեմպերը վերահսկելու համար», ասել է նա՝ հավելելով, որ եթե AI-ի դանդաղ զարգացման կոչ անող բաց նամակի 1300 ստորագրողները նույնիսկ մեկօրյա գործադուլի մասին չեն մտածել, «ապա ես վստահ չեմ, որ այդ նամակը լուրջ է»:

Այս հայտարարությունները հնչում են այն բանավեճի ֆոնին, թե արդյոք Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեիի և OpenAI-ի Սեմ Ալթմանի նման ղեկավարների կոչերը՝ դանդաղեցնել զարգացումը, անկեղծ մտահոգություն են, թե՞, ինչպես պնդում է տեխնոլոգիական լրագրող Սթիվեն Վոն Նիկոլսը Computerworld International Business Machines Corporation ↗ 0.60%-ում, դրանք պարզապես ժամանակ շահելու միջոց են այն ընկերությունների համար, որոնց ֆինանսական վիճակը մնում է անկայուն:futurism