Արհեստական բանականության առաջատար լաբորատորիաները կոչ են անում դանդաղեցնել զարգացումը՝ անվտանգության մտավախությունների պատճառով

ԱԲ ոլորտը գտնվում է իր ամենավճռորոշ ներքին հաշվեհարդարի փուլում՝ տեխնոլոգիայի մասսայական տարածումից ի վեր, քանի որ առաջատար լաբորատորիաները ընդունում են, որ ռեկուրսիվ ինքնակատարելագործումը, երբ ԱԲ մոդելները ինքնուրույն ստեղծում են ավելի կարող իրավահաջորդներ, ավելի մոտ է, քան նախկինում կարծում էին, իսկ բարձրաստիճան ղեկավարները հրապարակավ վիճում են՝ արդյոք պետք է դանդաղեցնել, թե արագացնել գործընթացը։

Տասնօրյա շղթայական ռեակցիա

Խռովությունը սկսվեց սեպտեմբերի 3-ին, երբ OpenAI-ը հայտարարեց իր ամենանոր՝ Astra մոդելի մասին, թեև ընկերությունը խոստովանեց, որ «գնալով ավելի անկարող է վերահսկել կամ նույնիսկ մոնիտորինգի ենթարկել» իր թողարկած ԱԲ համակարգերը, հայտնում է Reuters-ը։ Մի քանի օր անց՝ սեպտեմբերի 8-ին, Anthropic-ի հետազոտող Ջեյքոբ Քոքսոնը հրաժարական տվեց՝ վիրուսային գրառումների շարքում զգուշացնելով, որ ԱԲ լաբորատորիաները «խաղում են մեր կյանքի հետ»։ Anthropic-ի մեկ այլ հետազոտող՝ Էվան Հուբինգերը, X հարթակում գրել է. «Մենք իսկապես անկեղծորեն հավատում ենք, որ ԱԲ-ն կարող է սպանել բոլոր մարդկանց»:reuters

Մինչև սեպտեմբերի 12-ը Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեին հրապարակեց գրեթե 4000 բառանոց էսսե՝ կոչ անելով դանդաղեցնել տեմպերը և զգուշացնելով, որ 6-ից 12 ամսվա ընթացքում ԱԲ գործակալների հոծ խմբերը «կարող են ունակ լինել գրավելու ամբողջ համացանցը»։ Նրան միացան OpenAI-ի, Google-ի Alphabet Inc. ↗ 0.21% DeepMind-ի, Microsoft-ի ↘ 0.80% և xAI-ի ղեկավարները՝ հազվադեպ համատեղ կոչով դանդաղեցնելու զարգացումը և թույլ տալու արտաքին ընկերություններին անվտանգության աուդիտ իրականացնել իրենց համակարգերում:reuters

Պառակտում. Ամոդեի ընդդեմ Հուանգի

Ոչ բոլորն են համաձայն։ Nvidia ↗ 1.34% ընկերության գործադիր տնօրեն Ջենսեն Հուանգը մերժեց ԱԲ զարգացումը դադարեցնելու առաջարկները։ «Մենք պետք է շարժվենք այնքան արագ, որքան հնարավոր է՝ անկախ ուրիշներից», — ասել է Հուանգը CBS News-ին այս շաբաթավերջին հեռարձակվող հարցազրույցում։ Նա հավելեց. «Մենք երբեք չպետք է թողարկենք ապրանքներ, քանի դեռ դրանք պատրաստ չեն, կամ մատակարարենք անվտանգ չլինող ապրանքներ»:cbsnews

Meta-ի ↘ 2.43% Մարկ Ցուկերբերգը նմանատիպ դիրքորոշում որդեգրեց՝ պնդելով, որ յուրաքանչյուր լաբորատորիա պետք է սահմանի իր տեմպը, այլ ոչ թե համակարգի ոլորտի դանդաղեցումը։ «Լաբորատորիաները բախվում են զգալի պատասխանատվության, եթե իրենց մոդելները վնաս են պատճառում, ուստի նրանք ունեն ուժեղ խթան՝ դա կանխելու համար», — գրել է նա սոցիալական մեդիայի իր գրառման մեջ:reuters

The Wall Street Journal-ը (News Corp ↘ 2.07%) այս պառակտումը բնութագրեց որպես որոշիչ բաժանարար գիծ, որտեղ Ամոդեին հանդես է գալիս որպես զգուշավորության դեմք, իսկ Հուանգը՝ որպես զսպվածության դեմ ուղղված գլխավոր ձայն:wsj

Ռեկուրսիվ ինքնակատարելագործումը մոտենում է իրականությանը

Տագնապը սնուցում է ռեկուրսիվ ինքնակատարելագործման ուղղությամբ արձանագրված կոնկրետ առաջընթացը։ Anthropic-ը այս շաբաթ բացահայտեց, որ իր Claude մոդելն այժմ իրականացնում է ընկերության սեփական հետազոտությունների և մշակումների 26%-ը, հայտնում է Associated Press-ը։ OpenAI-ը մշակել է ավտոմատացված «հետազոտող պրակտիկանտ» և մինչև 2028 թվականի մարտը նպատակ ունի ստեղծել լիովին ավտոմատացված ԱԲ «հետազոտող»։ Իլոն Մասկը հայտարարել է, որ xAI-ի Grok մոդելները կարող են հասնել լիովին ավտոմատացված ինքնակատարելագործման մինչև այս տարվա վերջ:wral

Հետազոտողները այս ամսվա սկզբին զգուշացրել էին, որ արհեստական ընդհանուր բանականությունը կարող է հայտնվել ընդամենը երեք տարվա ընթացքում։ «Սա, հավանաբար, մարդկության պատմության մեջ ամենավատ գաղափարն է», — ասել է Future of Life Institute-ի նախագահ Էնթոնի Ագիրեն՝ նկատի ունենալով լիովին ինքնավար ԱԲ ինքնակատարելագործման ձգտումը:reuters+1

Նախագահ Դոնալդ Թրամփը, մինչդեռ, ԱԲ անվտանգության տագնապը անվանել է «կեղծիք» և զգուշացրել, որ ցանկացած դանդաղեցում միայն ձեռնտու կլինի Չինաստանին։ Կոնգրեսը քիչ առաջընթաց է գրանցել ԱԲ կարգավորման հարցում, թեև Չինաստանը սկսել է առաջարկել մշակողների պարտավորություններ և պետության կողմից աջակցվող անվտանգության ստանդարտներ:reuters

Microsoft-ի ԱԲ ղեկավար Մուստաֆա Սուլեյմանը սթափեցնող ամփոփում է առաջարկել. «Մենք բոլորս կենտրոնացած ենք նույն նպատակի վրա, այն է՝ փորձել վերահսկել գերբանականությունը։ Կարծում եմ՝ դա կլինի ամենամեծ մարտահրավերը, որին մենք կբախվենք 21-րդ դարում»:reuters