Accenture-ը և Anthropic-ը 1-ական միլիարդ դոլար են հատկացնում AI-ի անվտանգության փորձարկումներին

Accenture ↘ 4.73% և Anthropic ընկերությունները ուրբաթ օրը հայտարարեցին գործընկերության մասին, որի նպատակն է ստեղծել ներկառուցված գնահատողների թիմ, որոնք կաշխատեն Anthropic-ի ներսում՝ գնահատելու նրա առաջատար AI մոդելների անվտանգությունը. յուրաքանչյուր ընկերություն պարտավորվել է առնվազն 1 միլիարդ դոլար ներդնել AI-ի անվտանգության նախաձեռնություններում հինգ տարվա ընթացքում:investing+1

Այս գործարքը AI-ի անվտանգության գնահատման ոլորտում կորպորատիվ ամենախոշոր պարտավորություններից մեկն է և ներկայացնում է նորարարական մոտեցում, որտեղ արտաքին գնահատողները ստանում են աշխատակցի մակարդակի հասանելիություն AI մշակողի ներքին գործառնություններին:

Ինչպես է գործում ներկառուցված գնահատումը

Ի տարբերություն ավանդական արտաքին աուդիտորների, ներկառուցված գնահատողները կաշխատեն Anthropic-ի գրասենյակներում՝ ունենալով անցագրեր, ընկերության նոութբուքեր և ներքին ռիսկերի գնահատման թիմերին հավասարազոր թույլտվություններ, ասվում է հայտարարության մեջ: Այդ հասանելիությունը թույլ է տալիս գնահատողներին դիտարկել մոդելները ուսուցման ընթացքում, հետևել մոդելների կառուցման և տեղակայման որոշումներին և ուղղակիորեն շփվել աշխատակիցների հետ:unite

Աշխատանքը ղեկավարվելու է Faculty-ի կողմից, որը Accenture-ի կողմից ձեռք բերված մասնագիտացված AI ընկերություն է: Այն ունի առաջատար AI լաբորատորիաների համար մոդելների փորձարկման և կառավարական ու պաշտպանական հաճախորդների համար համակարգեր կառուցելու փորձ, ներառյալ COVID-19 համավարակի ժամանակ Մեծ Բրիտանիայի Առողջապահության ազգային ծառայության վաղ նախազգուշացման համակարգը:finance.yahoo

«Անվտանգությունը պահանջում է ինչպես խորը տեխնիկական փորձառություն, այնպես էլ իրական աշխարհում AI-ի օգտագործման հստակ պատկերացում», — ասել է Accenture-ի նախագահ և գործադիր տնօրեն Ջուլի Սվիթը: «Ներկառուցված գնահատումը զարգացող ոլորտ է, և մենք անհամբերությամբ սպասում ենք Anthropic-ի հետ համագործակցությանը՝ ներկառուցված գնահատողների զարգացումն արագացնելու համար»:finance.yahoo

Թափանցիկություն և հրապարակման իրավունքներ

Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեյի 2026 թվականի սեպտեմբերին հրապարակված «Մենք պետք է դանդաղեցնենք առաջընթացը» վերնագրով էսսեում նկարագրված պայմանների համաձայն՝ արտաքին գրախոսները իրավունք կունենան հրապարակել ռիսկերի մակարդակների, միջադեպերի և պրակտիկաների վերաբերյալ բացահայտումները՝ առանց Anthropic-ի խմբագրական վերահսկողության: Ընկերությունը պահպանում է անվտանգության համար զգայուն կամ իրավաբանորեն արտոնյալ նյութերը խմբագրելու սահմանափակ հնարավորություն, սակայն չի կարող ճնշել անբարենպաստ եզրակացությունները: Գրախոսները կարող են հրապարակայնորեն բացահայտել, եթե խմբագրումը հեռացրել է իրենց բացահայտումների համար էական որևէ բան:unite

Էսսեում Ամոդեյը ուրվագծել է եռաստիճան ծրագիր՝ ներկառուցված գնահատողներ, ժողովրդավարական երկրներում առաջատար AI ընկերությունների միջև համակարգում և գլոբալ համակարգում, և կոչ է արել կառավարություններին պարտադրել այլ առաջատար լաբորատորիաներին ընդունել նմանատիպ միջոցներ: «Մենք պետք է դանդաղեցնենք AI մոդելների հնարավորությունների բարելավման տեմպերը», — գրել է նա:unite

Ոչ բացառիկ պայմանավորվածություն

Գործընկերությունը ոչ բացառիկ է: Anthropic-ը հայտնել է, որ առաջիկա շաբաթներին նախատեսում է հայտարարել լրացուցիչ գնահատողների մասին և երկխոսության մեջ է METR-ի և այլ շահույթ չհետապնդող կազմակերպությունների հետ՝ ներկառուցված գնահատման տարրերը փորձարկելու համար: Այս պայմանավորվածությունը ընդլայնում է 2025 թվականի դեկտեմբերին ձևավորված ավելի լայն հարաբերությունները, երբ երկու ընկերությունները գործարկեցին Accenture Anthropic Business Group-ը և սկսեցին վերապատրաստել մոտ 30,000 Accenture-ի մասնագետների Anthropic-ի Claude մոդելների վերաբերյալ:unite

Հայտարարությունից հետո Accenture-ի բաժնետոմսերը սակարկությունների սկզբում աճել են:seekingalpha