Anthropic-ի համապատասխանեցման ղեկավարը զգուշացնում է. արհեստական բանականությունը մարդկության ոչնչացման ավելի քան 10% հավանականություն ունի

Anthropic-ում համապատասխանեցման գիտության ղեկավար Էվան Հուբինգերը երեքշաբթի օրը X-ում գրել է, որ անձամբ կարծում է, թե առաջիկա տասնամյակում արհեստական բանականության կողմից «բոլոր մարդկանց սպանելու» հավանականությունը 10%-ից ավելի է։ Այս հայտարարությունը հավաքել է ավելի քան 10 միլիոն դիտում և ցնցել ֆինանսական շուկաները՝ ընկերության սպասվող IPO-ի համատեքստում։bbc+2

«Ջեյքոբը ճիշտ է. մենք իսկապես հավատում ենք, որ ԱԲ-ն կարող է սպանել բոլոր մարդկանց։ Անձամբ ես կարծում եմ, որ առաջիկա տասնամյակում դա 10%-ից ավելի է», — գրել է Հուբինգերը։ «Ես հավատում եմ, որ Anthropic-ը փորձում է անել հնարավորը, բայց մենք դեռ չունենք գերինտելեկտի համապատասխանեցման խնդիրը լուծելու ծրագիր և հստակ ընթացքի մեջ չենք»։x

Հրաժարականը շղթայական ռեակցիա է առաջացնում

Հուբինգերի գրառումը պատասխան էր ԱԲ հետազոտող Ջեյքոբ Քոքսոնին, որը հայտարարեց Anthropic-ից հեռանալու մասին՝ երեք տարի աշխատելով ինչպես Anthropic-ում, այնպես էլ OpenAI-ում։ Քոքսոնը երկու ընկերություններին էլ մեղադրեց «ինքնակատարելագործվող գերինտելեկտի մրցավազքի և մեր կյանքի հետ խաղալու մեջ»։nypost+1

«ԱԲ ստեղծողները անկեղծորեն հավատում են, որ այն կարող է սպանել մեզ բոլորիս մինչև տասնամյակի վերջ։ Սա մարքեթինգային հնարք չէ», — գրել է Քոքսոնը՝ հավելելով, որ ղեկավարներն ու ավագ հետազոտողները մասնավոր զրույցներում արտահայտում են վախեր, որոնք հրապարակավ մեղմում են։saudigazette+1

Anthropic-ի մեկ այլ աշխատակից՝ մասշտաբային վերահսկողության ղեկավար Սամուել Մարքսը, նույն թեմայում ավելացրել է իր գնահատականը՝ գրելով, որ «ընդհանուր առմամբ, որքան բարձրաստիճան է աշխատակիցը, այնքան ավելի մտահոգված է նա»։breitbart

Քրեյմերը հիացմունքից անցնում է վարանումների

Այս բացահայտումները անսովոր իրավիճակ ստեղծեցին CNBC-ում։ Երեքշաբթի երեկոյան Mad Money հաղորդման ժամանակ Ջիմ Քրեյմերը հայտարարեց, որ Anthropic-ը «կարող է հսկայական IPO լինել, և ներդրողները կվաճառեն այլ բաժնետոմսեր՝ դրան մասնակցելու համար»։ Սակայն չորեքշաբթի առավոտյան Squawk on the Street հաղորդման ժամանակ նա Հուբինգերի գնահատականը համեմատեց վիրահատության մահացության ռիսկի հետ։ «Եթե դուք երբևէ եղել եք մի իրավիճակում, երբ ցանկանում եք վիրահատվել, և վիրահատության մահացության ռիսկը 5%-ից ավելի է, դուք դա չեք անի… 10%-ը 5%-ի կրկնապատիկն է», — ասաց Քրեյմերը՝ հավելելով, որ «շատ զարմացած է, որ այս մարդը դեռ աշխատում է» Anthropic-ում։tech-insider+1

Anthropic-ը դեռ չի ներկայացրել S-1 ձևաթուղթը SEC-ին և մնում է մասնավոր ընկերություն, թեև Financial Times News Corp ↘ 10.66%-ը հայտնել է, որ բաժնետերերը ակնկալում են, որ ընկերությունը ի վերջո կգնահատվի ավելի քան 2 տրիլիոն դոլար։ Նախկինում ընկերությունը ներգրավել էր H շարքի ֆինանսավորում՝ 965 միլիարդ դոլար գնահատմամբ։247wallst+1

Զգուշացումների օրինաչափություն

Հուբինգերի գնահատականը տեղավորվում է այն միջակայքում, որն արդեն նշել են ԱԲ ոլորտի այլ նշանավոր գործիչներ։ Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեին նախկինում նշել էր աղետալի հետևանքների մոտ 25% հավանականության մասին, իսկ Ջեֆրի Հինթոնը գնահատել էր 10%-ից 20% միջակայքը, հայտնում է Axios-ը։ Սակայն Հուբինգերի հայտարարությունը առանձնահատուկ կշիռ ունի, քանի որ այն պաշտոնական հայտարարություն է մի աշխատակցի կողմից, որի աշխատանքը հենց այն խնդրի լուծումն է, որը, ըստ նրա, մնում է չլուծված, և այն հնչում է IPO-ի շուրջ սպեկուլյացիաների աճի ֆոնին։tech-insider

Այս դրվագը հաջորդում է Financial Times-ի զեկույցին, ըստ որի՝ Anthropic-ը Մեծ Բրիտանիայի ԱԲ անվտանգության ինստիտուտից թաքցրել է իր վերջին մոդելը։ Քեմբրիջի համալսարանի մեքենայական ուսուցման պրոֆեսոր Նիլ Լոուրենսը BBC-ին ասել է, որ զեկույցը հավաստի է՝ նշելով այն համատեքստը, որում Միացյալ Նահանգները «ԱԲ-ն ընկալում է որպես մրցավազք» Չինաստանի հետ։bbc+1

Ո՛չ Anthropic-ը, ո՛չ OpenAI-ը զարգացումը դանդաղեցնելու նշաններ չեն ցույց տալիս։ OpenAI-ի գլխավոր գիտնական Յակուբ Պաչոցկին այս ամսվա սկզբին կոչ էր արել «ծայրահեղ զգուշություն» ցուցաբերել, բայց չէր հայտարարել դադարի մասին։ ԱԲ ընկերությունների 1300 աշխատակիցների կողմից ստորագրված բաց նամակը ԱՄՆ կառավարությանը կոչ է արել օգնել «միտումնավոր դանդաղեցնել ավտոմատացված ԱԲ զարգացման սահմանագիծը»։saudigazette+1