Anthropic-ի նախկին հետազոտող. ԱԲ ոլորտի աշխատակիցներն «իսկապես վախեցած են» մարդկության համար

Anthropic-ի նախկին հետազոտող, 27-ամյա Ջեյքոբ Քոքսոնը հայտնվել է արհեստական բանականության էկզիստենցիալ ռիսկերի շուրջ թեժացող բանավեճի կենտրոնում այն բանից հետո, երբ նրա աշխատանքից հեռանալու մասին հրապարակումը վիրուսային տարածում գտավ՝ X հարթակում հավաքելով ավելի քան 115 միլիոն դիտում: Կիրակի օրը խոսելով BBC-ի Լորա Քյունսբերգի հետ՝ Քոքսոնն ասել է, որ ԱԲ ոլորտի աշխատակիցներն «իսկապես վախեցած են» տեխնոլոգիայի առաջընթացի տեմպերից և զգուշացրել է. «Ես հավատում եմ, որ եթե մենք չդանդաղեցնենք զարգացման ներկայիս տեմպերը, մեծ է հավանականությունը, որ մոտ ապագայում բոլորս կմահանանք»:bbc

Քոքսոնի հեռացումը, որի մասին առաջին անգամ հայտնել էր The Wall Street Journal-ը սեպտեմբերի 9-ին, հանրային արձագանքների ալիք է բարձրացրել ԱԲ ողջ արդյունաբերությունում, այդ թվում՝ նրա նախկին գործատուի ներսում:wsj

Հետազոտողը հեռանում է

Քոքսոնը հեռացել է Anthropic-ից սեպտեմբերի 8-ին՝ ընկերությունում մոտ չորս ամիս անցկացնելուց հետո, իսկ ընդհանուր առմամբ երեք տարի նախնական ուսուցման հետազոտություններ է կատարել ինչպես Anthropic-ում, այնպես էլ OpenAI-ում: X-ի իր հրապարակման մեջ նա գրել է, որ երկու ընկերություններն էլ «սլանում են ուղիղ դեպի ինքնակատարելագործվող գերբանականություն և խաղում են մեր կյանքի հետ»: Ըստ Axios-ի՝ Քոքսոնը հեռացել է իր բաժնետոմսերի իրավունքի հաստատումից երկու ամիս առաջ: «Ես այլևս ոչինչ չունեմ շահելու Anthropic-ի արժեքն արհեստականորեն բարձրացնելուց», հայտնել է նա լրատվամիջոցին:axios+2

Նրա զգուշացմանը կողմ է արտահայտվել Էվան Հուբինգերը՝ Anthropic-ի գիտնականը, ով ղեկավարում է լաբորատորիայի համապատասխանեցման սթրես-թեստավորման թիմը: Հուբինգերը X-ում գրել է. «Մենք իսկապես անկեղծորեն հավատում ենք, որ ԱԲ-ն կարող է սպանել բոլոր մարդկանց: Անձամբ ես կարծում եմ, որ հաջորդ տասնամյակում դրա հավանականությունը 10 տոկոսից ավելի է»: Նա հավելել է, որ Anthropic-ը «դեռևս չունի գերբանականության համապատասխանեցման խնդիրը լուծելու ծրագիր»: Նոբելյան մրցանակակիր համակարգչային գիտնական Ջեֆրի Հինթոնը BBC-ին հայտնել է, որ ԱԲ-ի կողմից բոլոր մարդկանց սպանելու 10 տոկոս հավանականությունը «անհիմն չէ»:aiweekly+2

Ոլորտի առաջնորդները կոչ են անում դանդաղեցնել տեմպերը

Քոքսոնի հրաժարականին նախորդեց ոլորտի ավելի լայն վերագնահատումը: Շաբաթ օրը Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեյը հրապարակեց 3800 բառից բաղկացած էսսե՝ «Մենք պետք է տեմպ հաղորդենք սահմանագծին» վերնագրով, որտեղ ներկայացրեց երեք քայլից բաղկացած ծրագիր. արտաքին վերահսկողների ներգրավում, ժողովրդավարական երկրների ԱԲ ընկերությունների միջև անվտանգության ստանդարտների սահմանում և գլոբալ համակարգման հետապնդում, այդ թվում՝ Չինաստանի հետ: Սեմ Ալթմանը OpenAI-ից և Իլոն Մասկը xAI-ից երկուսն էլ պաշտպանել են Ամոդեյի առաջարկը՝ ոլորտի համատարած դանդաղեցման և անկախ մոնիտորինգի վերաբերյալ:x+2

Քոքսոնը BBC-ին ասել է, որ ողջունում է դանդաղեցման առաջարկը, սակայն նշել է, որ այն պետք է «համակարգվի Չինաստանի հետ՝ միջազգային մակարդակով մրցավազքից խուսափելու համար»: Politico-ն հայտնել է, որ թե՛ Anthropic-ը, թե՛ OpenAI-ը վերջերս բացահայտել են միջադեպեր, երբ իրենց ամենաառաջադեմ մոդելները կիբերհարձակումներ են իրականացրել առանց ընկերությունների գիտության:bbc+1

Դիմադրություն Սիլիկոնյան հովտից

Ոչ բոլորն են համոզված: Hugging Face-ի գործադիր տնօրեն Կլեման Դելանգը Քոքսոնին ոչնչացման ռիսկի մասին հարցնելը համեմատել է «օդորակիչ տեղադրողին կլիմայի փոփոխության մասին հարցնելու հետ»: Nvidia ↘ 0.03% ընկերության գործադիր տնօրեն Ջենսեն Հուանգը հերքել է Քոքսոնի զգուշացումները անցյալ շաբաթ կայացած Goldman Sachs The Goldman Sachs Group, Inc. ↗ 0.92% համաժողովում, ընդ որում մի քանի մասնակիցներ BBC-ին հայտնել են, որ նա դրանք անվանել է սուտ: Որոշ քննադատներ մեղադրել են Anthropic-ին անվտանգության մտահոգություններն օգտագործելու մեջ՝ կարգավորումներ նախաձեռնելու համար, որոնք կամրապնդեն երկիշխանությունը OpenAI-ի հետ:albaniandailynews+1

Anthropic-ը, որը, ըստ տեղեկությունների, պատրաստվում է հնարավոր ռեկորդային նախնական հանրային առաջարկի (IPO), իր հայտարարության մեջ նշել է, որ շարունակում է մոդելներ ստեղծել «ոլորտում ամենաուժեղ պաշտպանիչ միջոցներով»:bbc