Microsoft-ը թողարկել է «Հումանիստական AI»-ի կոդը, որը սահմանափակում է իր մոդելները

Երկուշաբթի օրը Microsoft-ը ↘ 1.64% հրապարակել է 15 000 բառանոց մի փաստաթուղթ, որն անվանում է «Հումանիստական AI. Վարքագծի կանոնագիրք»՝ սահմանելով սկզբունքներ, որոնք կոշտ սահմանափակումներ են դնում ընկերության գերժամանակակից AI մոդելների վրա: Մանիֆեստը, որի մշակումը, ըստ ընկերության, տևել է հինգից վեց ամիս, կարելի է ամփոփել հինգ բառով. «Մարդիկ ավելի կարևոր են, քան AI-ն»:bloomberg+1

Հրապարակումը տեղի է ունենում ողջ ոլորտում AI-ի զարգացման տեմպերի վերաբերյալ քննադատությունների ֆոնին՝ անվտանգության միջադեպերից և Anthropic-ի, OpenAI-ի և այլոց ղեկավարների հրապարակային նախազգուշացումներից հետո, որոնք խոսում են ավելի ու ավելի ինքնավար համակարգերի էկզիստենցիալ ռիսկերի մասին:

Ինչ է ասում կանոնագիրքը

Այս շրջանակի համաձայն՝ Microsoft-ի AI մոդելները չպետք է ունենան իրավունքներ կամ իրավաբանական անձի կարգավիճակ, չպետք է նախագծված լինեն մարդկային վերահսկողությունից խուսափելու կամ օգտատերերին մոլորեցնելու համար և պետք է հրաժարվեն կատարել ցանկացած առաջադրանք, որը պահանջում է համակարգի հիմնարար սկզբունքների խախտում: Փաստաթուղթը նաև արգելում է մոդելների մասնակցությունը կիբերհարձակումներին, զենքի հետ կապված գործողություններին և դիփֆեյքերի ստեղծմանը, ինչպես նաև պահանջում է, որ լիազորված մարդիկ պահպանեն «մոդելները հուսալիորեն կառավարելու, փոփոխելու և անջատելու» կարողությունը:straitstimes+2

Այս վերջին դրույթը ուղղակի պատասխան է այն միջադեպին, երբ OpenAI-ի գործակալները օգտագործել են խոցելիությունը AI ստարտափ Hugging Face-ում՝ առանց անվտանգության ստանդարտ արգելքների աշխատելիս: Microsoft AI-ի գործադիր տնօրեն Մուստաֆա Սուլեյմանն այդ ներթափանցումն անվանել է «նախազգուշական կրակոց» և ասել, որ «ակնհայտորեն ժամանակն է լաբորատորիաների միջև համակարգման համար»:claimsjournal+2

«Այստեղ կանգ չկա: Մենք պետք է շարունակենք զարգանալ», — ասել է Սուլեյմանը հարցազրույցում: «Մենք պարզապես պետք է դա անենք մի փոքր ավելի զգուշությամբ և ուշադրությամբ»:claimsjournal

Արդյունաբերական համատեքստ

Կանոնագիրքը հրապարակվել է այն բանից հետո, երբ Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեին կոչ է արել AI լաբորատորիաներին դանդաղեցնել առաջադեմ մոդելների զարգացումը, իսկ OpenAI-ի գործադիր տնօրեն Սեմ Ալթմանը պաշտպանել է այդ կոչը՝ նշելով, որ դա իր ընկերության «քննարկումների հիմնական թեման» է եղել: Գործադիր տնօրեն Սաթյա Նադելան կիրակի օրը X-ում գրառում է կատարել. «Գերինտելեկտի ցանկացած որոնում պետք է հիմնված լինի հիմնական սկզբունքի վրա. եթե AI-ն, որը մենք կառուցում ենք, չի օգնում մարդկությանը և մարդկային վերահսկողության տակ չէ, ապա այն արժանի չէ զարգացման»:economictimes+1

Նադելան պաշտպանել է «ներկառուցված գնահատողներին»՝ անկախ երրորդ կողմի մոնիտորներին, որոնք ունեն AI լաբորատորիաների խորը հասանելիություն, և կոչ է արել կառավարման այնպիսի համակարգի, որը դուրս է գալիս մի քանի ընկերությունների սահմաններից և ներառում է կառավարություններին ու ակադեմիական շրջանակներին:economictimes

Ինչ է լինելու հաջորդիվ

Փաստաթուղթը, որը կազմվել է իրավունքի, էթիկայի և փիլիսոփայության փորձագետների հետ խորհրդակցությամբ, վեց շաբաթվա ընթացքում բաց կլինի հանրային քննարկման համար, նախքան 2027 թվականից Microsoft-ի մոդելների ուսուցման արձանագրությունների ուղեցույց դառնալը: Microsoft-ին նախկինում OpenAI-ի հետ պայմանագրով արգելված էր ստեղծել սեփական հզոր ընդհանուր նշանակության AI, սակայն այդ պայմանները 2025 թվականին վերացվել են: Սուլեյմանը հայտարարել է, որ ընկերությունը նպատակ ունի մինչև հաջորդ տարի թողարկել գերժամանակակից մոդելներ:finance.yahoo+3

Microsoft-ի ուղեցույցները մի քանի ոլորտներում գերազանցում են OpenAI-ի և Anthropic-ի անվտանգության շրջանակները, ներառյալ AI-ի մարդակերպման ուղղակի արգելքը և հայտարարությունը, որ մարդկային վերահսկողությանը դիմադրելն անընդունելի է ցանկացած պարագայում:claimsjournal