DeepMind-ի նախկին գիտնականը զգուշացնում է. արհեստական բանականությունը չափազանց արագ է զարգանում

Ալեքս Թերները՝ Google Alphabet Inc.-ի ↗ 0.78% DeepMind-ի մասշտաբային համապատասխանեցման թիմի նախկին գիտաշխատողը, երկուշաբթի օրը Bloomberg-ի եթերում պնդել է, որ ԱԲ-ի զարգացման տեմպերը գերազանցել են կառավարությունների, ընկերությունների և մրցակից գերտերությունների՝ դրա ռիսկերը կառավարելու կարողությունը։ Նրա խոսքերը հնչել են ԱԲ-ի ոլորտի առաջատար ղեկավարների կողմից տեխնոլոգիայի աննախադեպ արագ զարգացումը դանդաղեցնելու կոչերի ֆոնին։

Վիսթլբլոուերի աճող հարթակը

Թերները հրաժարական է տվել Google DeepMind-ից հունիսին այն բանից հետո, երբ ընկերությունը համաձայնագիր է ստորագրել Պենտագոնի հետ՝ թույլ տալով օգտագործել իր ԱԲ-ն գաղտնի աշխատանքների համար։ Նրա խոսքով՝ այդ գործարքը չուներ պարտադիր սահմանափակումներ ինքնավար զենքերի կամ զանգվածային հսկողության դեմ։ Այդ ժամանակից ի վեր նա դարձել է ԱԲ-ի հետագիծը քննադատող ամենահայտնի ձայներից մեկը։ Անցյալ շաբաթ CNBC-ին տված հարցազրույցում նա ասել է, որ «մտահոգված է տեխնոլոգիայից բխող ոչնչացման ռիսկով»:cnbc+2

Երկուշաբթի օրվա Bloomberg-ի հարցազրույցում Թերները որպես հիմնական վտանգ առանձնացրել է ռեկուրսիվ ինքնազարգացումը՝ ԱԲ համակարգերի՝ սեփական կարողությունները բարելավելու ունակությունը, և զգուշացրել, որ այն կարող է արագորեն ստեղծել մարդկային ընկալումից դուրս բանականություն։ Նա նաև նշել է, որ հաշվողական հզորությունների մոնիտորինգը կարող է կարգավորման գործնական լծակ դառնալ։ Թերներն ընդունել է, որ տեխնոլոգիական հսկաների՝ զարգացումը դանդաղեցնելու վերջին կոչերը կարող են մասամբ անկեղծ լինել, մասամբ էլ՝ առավելություն ստանալու ռազմավարական քայլ:bloomberg

Արդյունաբերության աճող արձագանքը

Թերների նախազգուշացումները հնչում են ԱԲ-ի անվտանգության շուրջ բանավեճերի վճռորոշ շաբաթվա ընթացքում։ Շաբաթ օրը Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեին հրապարակել է 3800 բառանոց հոդված՝ «Մենք պետք է դանդաղեցնենք սահմանագիծը» վերնագրով, որում կոչ է արել լաբորատորիաներին դիտավորյալ սահմանափակել կարողությունների աճը։ OpenAI-ի գործադիր տնօրեն Սեմ Ալթմանը և Իլոն Մասկը հրապարակայնորեն պաշտպանել են այդ ուղերձը։ Google DeepMind-ի ղեկավար Դեմիս Հասաբիսը նույնպես համաձայնություն է հայտնել:cnbc+1

Ամոդեին ներկայացրել է եռաստիճան շրջանակ՝ լաբորատորիաներում անկախ գնահատողների ներդրում, ժողովրդավարական երկրների միջև անվտանգության ստանդարտների համակարգում և, ի վերջո, այդ համաձայնագրերի գլոբալ ընդլայնում՝ ներառյալ Չինաստանը։ Այնուամենայնիվ, երկուշաբթի օրվա դրությամբ ոչ մի մրցակից լաբորատորիա չի ստանձնել Anthropic-ի կոնկրետ պարտավորությունը՝ երրորդ կողմի աուդիտորներին աշխատակցի մակարդակի հասանելիություն տրամադրելու վերաբերյալ:shattered

Չինական երկընտրանքը

Աշխարհաքաղաքական հարթությունը մեծ նշանակություն ունի։ Ամոդեին ինքն էլ Չինաստանն անվանել է «ամենադժվար երկընտրանքը» ցանկացած դանդաղեցման առաջարկի համար՝ ընդունելով այն ռիսկը, որ արևմտյան լաբորատորիաների միակողմանի զսպվածությունը կարող է հող նախապատրաստել Պեկինի համար։ Թերները սոցիալական ցանցերում հակադարձել է Թրամփի վարչակազմի ԱԲ-ի հարցերով պատասխանատու Դեյվիդ Սաքսին, որը դանդաղեցման մասին կոչերը որակել էր որպես մրցակցությունը խոչընդոտելու փորձ։ Կիրակի օրը հրապարակված հոդվածում Թերները գրել է, որ լուծումը «պարզ է. կանխել ընկերությունների կողմից ԱԲ-ին ինքնազարգացման հնարավորություն տալը բանականության կառավարելի մակարդակից դուրս»:politomix+3