Anthropic-ի համահիմնադիրը հայտարարել է, որ AI-ի «անջատման կոճակը» կարող է օրենքով պարտադիր դառնալ

Anthropic-ի և OpenAI-ի նախկին հետազոտող Ջեյքոբ Քոքսոնը, որի հրաժարականը անցյալ շաբաթ տեխնոլոգիական ոլորտում մեծ աղմուկ բարձրացրեց, NBC News-ի Meet the Press հաղորդման ժամանակ ասել է, որ թեև AI համակարգերն այսօր տեխնիկապես հնարավոր է անջատել, այդ հնարավորության պատուհանը կարող է շուտով փակվել: Նրա նախազգուշացումը հնչեց այն բանից հետո, երբ Anthropic-ի համահիմնադիր Ջեք Քլարկը BBC-ին առանձին հայտնել էր, որ երրորդ կողմի կողմից ստուգված «անջատման կոճակը» (kill switch) կարող է դառնալ AI ընկերությունների համար օրենսդրական պահանջ:bbc

Քոքսոնը, որը սեպտեմբերի 9-ին հրաժարական տվեց Anthropic-ից՝ գրելով, որ «AI կառուցողները անկեղծորեն հավատում են, որ այն կարող է սպանել մեզ բոլորիս մինչև տասնամյակի վերջ», հանգստյան օրերին մի շարք լրատվամիջոցների հետ զրույցում պաշտպանեց Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեիի կոչը՝ դանդաղեցնելու առաջադեմ AI-ի զարգացումը: Շաբաթ օրը Meet the Press-ում նա ասել է, որ անջատման կոճակը «այս պահին հավանաբար կաշխատեր շատ AI-ների վրա», սակայն զգուշացրել է, որ «շատ շուտով հնարավոր է, որ անջատման կոճակը պարզապես չաշխատի, քանի որ համակարգը կարող է համացանցային հաքերային հարձակում իրականացնել»:thestatesman+2

Արդյունաբերության առաջնորդները միավորվում են զսպվածության շուրջ

Քոքսոնի հրապարակային արշավը անսովոր համախմբում է առաջացրել նախկինում կատաղի մրցակիցների միջև: Ամոդեին հանգստյան օրերին առաջարկել է անվտանգության եռաստիճան շրջանակ, որը ներառում է մշտական երրորդ կողմի գնահատողներ առաջադեմ AI ընկերություններում, ժողովրդավարական երկրների միջև անվտանգության ընդհանուր ստանդարտներ և միջազգային համակարգում: OpenAI-ի գործադիր տնօրեն Սեմ Ալթմանը, Իլոն Մասկը և Google Alphabet Inc. ↗ 3.06% DeepMind-ի գործադիր տնօրեն Դեմիս Հասաբիսը պաշտպանել են զսպվածության ավելի լայն կոչը:ciodive+1

Microsoft ↗ 1.97%-ի գործադիր տնօրեն Սաթյա Նադելան ավելացրել է իր աջակցությունը՝ X-ում գրելով, որ «գերինտելեկտի ցանկացած հետապնդում պետք է հիմնված լինի այն հիմնարար սկզբունքի վրա, որ եթե մեր կառուցած AI-ն չի օգնում մարդկությանը և չի գտնվում մարդկային վերահսկողության տակ, ապա այն արժանի չէ զարգացման»:thestatesman+1

Անջատման կոճակի շուրջ բանավեճը տեղափոխվում է օրենսդրական դաշտ

Քլարկը BBC-ին ասել է, որ թեև «լաբորատորիաների մեծ մասն ունի իրենց համակարգերը անջատելու տարբեր մեթոդներ», կարգավորող մարմինները կարող են պարտադրել նման միջոցներ: Միացյալ Նահանգներում օրենսդիրները առաջարկել են «Անջատման կոճակի մասին օրենք» (Kill Switch Act), որը ընկերություններից կպահանջի ներդնել անջատման մեխանիզմներ և կառավարական գործակալություններին կտա որոշակի գործիքների անջատում պահանջելու իրավունք:bbc

Anthropic-ի հետազոտող Էվան Հուբինգերը ընդգծել է բանավեճի հրատապությունը՝ հրապարակավ հայտարարելով, որ իր կարծիքով AI-ի կողմից մարդկության ոչնչացման հավանականությունը «հաջորդ տասնամյակում 10%-ից ավելի է»: Նոբելյան մրցանակակիր Ջեֆրի Հինթոնը այդ գնահատականը «ոչ անտրամաբանական» է անվանել:bbc

Բոլորը չէ, որ համաձայն են: Նախագահ Դոնալդ Թրամփը երկուշաբթի օրը հայտարարություն է տարածել՝ դեմ արտահայտվելով զարգացման դանդաղեցմանը և զգուշացնելով, որ դա կարող է խաթարել ամերիկյան մրցունակությունը: Մեծ Բրիտանիայի կառավարությունը նույնպես մերժել է անջատման կոճակի գաղափարը՝ խոսնակի միջոցով նշելով, որ «այն չի կանխի զարգացումը կամ չարաշահումը այլ վայրերում»:ciodive+1

Քոքսոնի համար փաստարկը պարզ է: «Իմ անձնական կարծիքն այն է, որ պետք է պահանջել և թույլ տալ, որ ներկայիս լաբորատորիաները ինքնակարգավորվեն», — ասել է նա NBC News-ին: «Ես իսկապես կարծում եմ, որ լաբորատորիաները ղեկավարող մարդիկ, հատկապես նրանց վերջին հաղորդակցությունները հաշվի առնելով, լիովին անկեղծ են: Նրանք ցանկանում են դանդաղեցնել իրենց ընթացքը»:economictimes