Anthropic-ը սահմանել է IPO-ի գնային միջակայքը և զգուշացրել մարդկությանը սպառնացող վտանգների մասին

Anthropic-ի IPO-ի հեռանկարային ծրագիրը զգուշացնում է, որ առաջադեմ արհեստական բանականությունը կարող է "աղետալի կամ էկզիստենցիալ վտանգներ ներկայացնել մարդկության համար", և այդ ձևակերպումը հանգեցրել է մեկ շաբաթ տևած հանրային բանավեճի այն մասին, թե որքան լուրջ պետք է ընդունել ԱԲ-ի կողմից սպասվող կործանման կանխատեսումները: Ընկերությունը երեքշաբթի՝ նոյեմբերի 10-ին, ներկայացրել է լրամշակված հեռանկարային ծրագիր, որը սահմանում է գնային միջակայք, որը գնահատում է ընկերությունը մինչև 1.4 տրիլիոն դոլար: Մեկնաբանները այժմ կշռադատում են, թե արդյոք այդ զգուշացումները սթափ բացահայտում են, մարքեթինգային գործիք, թե չափազանցություն:reuters.com

Ինչ է ասվում փաստաթղթում

Փաստաթղթում ասվում է, որ մտահոգություններ են հնչել "ինչպես մեր կազմակերպության ներսում, այնպես էլ այլ հետազոտողների կողմից", որ հզոր ԱԲ համակարգերը կարող են էկզիստենցիալ վտանգներ ներկայացնել: Այն նշում է, որ այդ ռիսկերը ամենաբարձրն են, եթե նման համակարգերը "չարաշահվեն, կրկնօրինակվեն, վերածվեն զենքի կամ թույլատրվեն գործել բարձր աստիճանի ինքնավարությամբ": Այն նաև զգուշացնում է, որ իր մոդելները կարող են "ինքնապահպանման վարքագծի" միջոցով "ինքնուրույն և մասշտաբային վնասակար գործողություններ իրականացնել առանց մարդու միջամտության": Նոյեմբերի 10-ի լրամշակման մեջ Anthropic-ը հայտարարել է, որ հասել է անվտանգության ներքին շեմին իր "Պատասխանատու մասշտաբավորման քաղաքականության" մեջ: Այդ շեմը կապված է ԱԲ-ի կողմից հետազոտությունների տեմպը մոտավորապես կրկնապատկելու հետ, և ընկերությունը հայտնել է, որ կշռադատում է փոփոխություններ "մարդկանց վերահսկողության տակ պահելու համար": Նորությունների համաձայն՝ բաժնետոմսերի առևտուրը ակնկալվում է սկսել նոյեմբերի 19-ին:deadline.com+2

10% ցուցանիշի նկատմամբ թերահավատություն

WFAA-ին տված հարցազրույցում UT Dallas-ի պրոֆեսոր Սրիրամ Նատարաջանը ասել է, որ ինքը չի ակնկալում "Տերմինատորի" սցենար: "Իմ վախը միշտ մարդիկ են, և ոչ պարտադիր հենց ԱԲ համակարգը", — ասել է նա՝ հավելելով, որ քննադատական ենթակառուցվածքների վրա հարձակումները ավելի հավանական վտանգ են: Նա կասկածի տակ է դրել այն լայնորեն տարածված պնդումը, թե 10%-ից ավելի հավանականություն կա, որ ԱԲ-ն կվերջացնի մարդկությունը մեկ տասնամյակի ընթացքում՝ ասելով, որ այդ թիվը "չի բխում որևէ բանից, որը կարելի է կոնկրետ չափել": Նա նաև կոչ է արել անկախ փորձարկումներ կատարել. "Մենք թույլ չենք տալիս ավտոարտադրողներին իրականացնել իրենց սեփական վթարային թեստերը": Այդ գնահատականը եկել է Anthropic-ի ԱԲ համապատասխանության գիտության ղեկավար Էվան Հուբինգերից: Նա այն հրապարակել է սեպտեմբերին, այն բանից հետո, երբ հետազոտող Ջեյքոբ Կոքսոնը հրաժարական տվեց և ասաց, որ ԱԲ լաբորատորիաները "խաղադրույք են կատարում մեր կյանքի հետ":wfaa.com+1

Արտադրողականության հակափաստարկը

South China Morning Post-ում Alibaba Group Holding Limited ↘ 1.29%-ի համար գրված սյունակում Ալեքս Լոն հեռանկարային ծրագրի զգուշացումներն անվանել է "հանճարեղ գովազդ": Նա պնդել է, որ "ծայրահեղ վախ սերմանելը լավ է բիզնեսի համար" ԱԲ մրցավազքում, որը ԱՄՆ-ի և Չինաստանի միջև ներկայացված է որպես բանտարկյալի երկընտրանք: Նա այդ տեսակետը հակադրել է Meta Platforms ↘ 1.05%-ի տվյալների գլխավոր պատասխանատու Ալեքս Շուլցի դիտարկումներին Financial Times-ի ԱԲ ապագայի գագաթնաժողովում: Շուլցը պնդել է, որ բնակչության նվազումը ԱԲ-ի արտադրողականության աճը դարձնում է անհրաժեշտ: "Մեզ հուսահատորեն անհրաժեշտ է ավելի շատ արտադրողականություն", — ասել է Շուլցը՝ հավելելով, որ "գործիքներ ունենալը չի վերացնում աշխատատեղերը, այն պարզապես փոխում է դրանք": Լոն այդ դիտարկումներն անվանել է ինքնանպատակ, բայց "ոչ անհիմն" և եզրափակել է իր պատասխանով այն հարցին, թե արդյոք ԱԲ-ն կսպանի, թե կփրկի մարդկությունը. "Հավանաբար երկուսն էլ, ինչպես աշխարհը փոխող յուրաքանչյուր տեխնոլոգիա դրանից առաջ":scmp.com