Կանադան նախազգուշացնում է բանկերին Anthropic-ի Mythos-ի հետ կապված կիբերռիսկերի մասին

ԱՄՆ Կիբերանվտանգության և ենթակառուցվածքների անվտանգության գործակալությունը օգտագործում է Anthropic-ի Claude Mythos AI մոդելը դաշնային կառավարության ծրագրային ապահովման մեջ անվտանգության խոցելիությունները սկանավորելու համար, հայտնել է Reuters-ը հուլիսի 6-ին՝ վկայակոչելով հարցին ծանոթ երեք անձանց։ Այս քայլը նշանավորում է կառավարության կողմից կիբերպաշտպանության համար առաջադեմ AI-ի որդեգրման ևս մեկ քայլ, նույնիսկ այն դեպքում, երբ Anthropic-ը շարունակում է բարդ հարաբերություններ պահպանել Թրամփի վարչակազմի հետ:reuters+1

Սխալների որոնում դաշնային կոդում

CISA-ի հարձակման մակերեսի գնահատման թիմը՝ մի ստորաբաժանում, որն իրականացնում է թվային անվտանգության գնահատումներ և հաքերային վարժանքներ կառավարության ողջ տարածքում, գործարկում է Mythos-ը դաշնային կոդերի պահոցների դեմ՝ նշելու այն սխալները, որոնք կարող են շահագործվել օտարերկրյա հետախուզական ծառայությունների և կիբերհանցագործների կողմից։ Աղբյուրներից երկուսը Reuters-ին հայտնել են, որ աուդիտներն արդեն բացահայտել են մեծ թվով խոցելիություններ, թեև ոչ մեկը չի մանրամասնել դրանց շրջանակը կամ ծանրությունը:thenextweb+2

Ո՛չ CISA-ն, ո՛չ Anthropic-ը պաշտոնապես չեն հաստատել այս աշխատանքը։ Տեղակայումը հաջորդել է ապրիլից NSA-ի կողմից Mythos-ի փորձարկմանը և տեղի է ունեցել այն բանից հետո, երբ ԱՄՆ կառավարությունը հունիսի վերջին թույլատրել է Anthropic-ին թողարկել իր Mythos 5 մոդելը մոտ 100 վստահելի կազմակերպությունների, այդ թվում՝ Fortune 500 ընկերությունների և դաշնային գործակալությունների համար։ Առևտրի նախարար Հովարդ Լաթնիկը CNBC-ի կողմից դիտված նամակում գրել է, որ «առկա են համապատասխան երաշխիքներ՝ որոշ վստահելի գործընկերներին Claude Mythos 5 մոդելին հասանելիություն տրամադրելու համար»:aiweekly+3

Բարդ կառավարական հարաբերություններ

Որդեգրումը տեղի է ունենում Anthropic-ի և դաշնային կառավարության միջև լարվածության ֆոնին։ Մարտին ԱՄՆ շրջանային դատավոր Ռիտա Լինը ժամանակավորապես արգելափակել էր Պենտագոնի կողմից Anthropic-ի մատակարարման շղթայի ռիսկի նշանակումը՝ վճռելով, որ դա հանդիսանում է վրեժխնդրություն ընկերության կողմից իր Առաջին փոփոխության իրավունքներն իրացնելու համար։ Այնուամենայնիվ, վերաքննիչ դատարանը ապրիլին մերժել է Anthropic-ի խնդրանքը՝ պաշտպանության նախարարության դեմ այդ արգելքը երկարաձգելու վերաբերյալ, ինչի հետևանքով ընկերությանը արգելվել է աշխատել ՊՆ պայմանագրերով, թեև թույլատրվել է համագործակցել այլ գործակալությունների հետ:abc7+2

Կանադան հնչեցնում է իր տագնապը

Առանձին-առանձին, Կանադայի Ֆինանսական հաստատությունների վերահսկողության գրասենյակը նախազգուշացրել է երկրի խոշորագույն բանկերին Claude Mythos-ի և այլ առաջադեմ AI մոդելների կողմից ստեղծվող կիբերանվտանգության ռիսկերի մասին, հայտնել է Reuters-ը կիրակի օրը։ Ապրիլին ուղարկված էլեկտրոնային նամակում OSFI-ն ասել է, որ «արհեստական բանականության առաջադեմ մոդելները, ինչպիսիք են Anthropic Claude Mythos-ը, զգալիորեն կրճատում են ռիսկերի արդյունավետ մեղմման ժամանակը»՝ հորդորելով հաստատություններին արագացնել իրենց հայտնաբերման և շտկման կարողությունները:wtvbam+1

Տեխնոլոգիայի երկակի նշանակության բնույթը՝ բավականաչափ հզոր՝ պաշտպանական փորձարկումների ժամանակ հազարավոր կրիտիկական խոցելիություններ գտնելու համար, բայց միևնույն ժամանակ նույնքան ունակ՝ սպառնալիքներ ստեղծողների կողմից զենքի վերածվելու համար, մնում է կենտրոնական լարվածությունը, քանի որ կառավարությունները որոշում են, թե ինչպես տեղակայել և կարգավորել առաջադեմ AI-ն կիբերանվտանգության մեջ:reuters