Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

bloombergcnbc+1axiosOpenAI-ն երեքշաբթի հայտարարեց, որ թույլ կտա արտաքին կազմակերպություններին իրականացնել իր AI մոդելների տեխնիկական անվտանգության գնահատումներ ուսուցման, գնահատման և ներդրման ավելի վաղ փուլերում. սա քայլ է, որն ուղղված է առաջադեմ AI համակարգերի հնարավոր վնասների վերաբերյալ աճող մտահոգությունների լուծմանը:
ChatGPT-ի ստեղծողը Bloomberg-ի համաձայն՝ նախանշել է առաջնահերթություններ այս վերանայումների արդյունավետ աշխատանքի համար, ներառյալ "անկախության ուժեղ մեխանիզմներ, գիտական խստություն, անվտանգության կայուն պրակտիկա և հստակ պատասխանատվություն": Հայտարարությունը, որը կատարվել է ընկերության բլոգի միջոցով, հնչել է AI արդյունաբերության անվտանգության պրակտիկայի նկատմամբ ուժեղացված ուշադրության շրջանում:bloomberg
Այս քայլը հաջորդում է առաջատար AI լաբորատորիաների կողմից անվտանգության հետ կապված հայտարարությունների արագ հաջորդականությանը: Երկուշաբթի օրը OpenAI-ն հրապարակեց առաջարկների առանձին փաթեթ, որը կենտրոնացած է ալգորիթմների համապատասխանության հետազոտության և հաշվողական տեխնիկայի վրա, որը հայտնի է որպես ռեկուրսիվ ինքնազարգացում (RSI), և կոչ արեց միջազգային համագործակցության՝ առաջադեմ չափանիշներ մշակելու համար: "Լիովին ինքնավար RSI-ն այսօր տեղի չի ունենում, և մենք չպետք է հետամուտ լինենք դրան, քանի դեռ այն չի կարող իրականացվել անվտանգ", — գրել է ընկերությունը:cnbc
Անցյալ շաբաթ մրցակից Anthropic-ը հրապարակեց իր առաջարկները առաջադեմ մոդելների ավելի անվտանգ մշակման համար, այն բանից հետո, երբ հետազոտող Ջեյքոբ Քոքսոնը գլոբալ բանավեճ հրահրեց՝ հրաժարական տալով ընկերությունից և զգուշացնելով, որ AI լաբորատորիաները "խաղում են մեր կյանքի հետ": Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեին հետագայում կոչ արեց AI ընկերություններին դանդաղեցնել զարգացման տեմպերը և առաջարկեց երրորդ կողմի գնահատողներին ներդնել իրենց կազմակերպություններում:explainx+1
Չնայած խոստումների տարափին, թերահավատները կասկածի տակ են դնում, թե արդյոք արդյունավետ վերահսկողությունը հնարավոր է արդյունաբերության նման արագ տեմպերի պայմաններում: Axios-ի կողմից մեջբերված Goldman Sachs -ի գնահատումների համաձայն՝ առաջիկա հինգ տարիների ընթացքում AI-ի մասշտաբավորման վրա ավելի քան 7 տրիլիոն դոլար կծախսվի: Ե՛վ OpenAI-ը, և՛ Anthropic-ը ճնշման տակ են՝ ստեղծելու ավելի ու ավելի կարող մոդելներ, քանի որ նրանք պատրաստվում են հրապարակային առաջարկների՝ բազմատրիլիոն դոլարանոց գնահատումներով:axios
Ավելի քան 100 AI գնահատողների կոալիցիան վերջերս կոչ արեց առաջադեմ մոդելներ արտադրողներին ընդունել "նվազագույն պայմաններ" անկախ աուդիտի համար, ներառյալ ավելի խորը հասանելիությունը և պաշտպանությունը անբարենպաստ արդյունքներ հրապարակելու համար վրեժխնդրությունից: Դենիել Կոկոտայլոն՝ OpenAI-ի նախկին հետազոտող և AI Futures Project-ի գործադիր տնօրենը, Axios-ին ասել է, որ չի հավատում, որ AI-ն կարող է անվտանգ մասշտաբավորվել՝ պնդելով, որ առաջատար ընկերությունները պետք է խուսափեն իրենց հսկայական հաշվողական ռեսուրսները մոդելի բարելավմանն ուղղելուց:cnbc+2
"Ընկերություններն ունեն հակասական զգացմունքների և ներքին քննարկումների անընդհատ գործընթաց այն մասին, թե ինչ ենք մենք անում", — ասել է Կոկոտայլոն: "Մենք պե՞տք է կանգ առնենք: Մենք բարի ուժե՞ր ենք":axios