Anthropic-ը հայտարարել է կենսաբանական զենքի հետազոտությունների հետ կապված AI-ի չարաշահումները կանխելու մասին

Հինգշաբթի օրը Anthropic-ը հրապարակեց իր մինչ այժմ ամենամանրամասն սպառնալիքների վերաբերյալ հետախուզական զեկույցը՝ բացահայտելով, որ իր AI մոդելներն օգտագործվել են պետական հովանավորությամբ հաքերների, հանցավոր խմբերի և կենսաբանական զենքի հետազոտություններով զբաղվող հետազոտողների կողմից վերջին ինը ամիսների ընթացքում: Այս բացահայտումն ընդգծում է, թե որքան արագ է AI-ն փոխում կիբերհանցագործության և կենսաանվտանգության ռիսկերի լանդշաֆտը:

«AI-ի չարաշահումների հայտնաբերում և հակազդում. սեպտեմբեր 2026» վերնագրով զեկույցն ընդգրկում է այն գործունեությունը, որը ընկերության սպառնալիքների հետախուզման թիմը կանխել է 2025 թվականի դեկտեմբերից մինչև 2026 թվականի օգոստոսը՝ վնասի յոթ կատեգորիաներում, ներառյալ կիբերգործողությունները, կենսաբանական չարաշահումները, հսկողությունը, ազդեցության գործողությունները և սովորական զենքի մշակումը: Claude Haiku, Sonnet և Opus մոդելները բոլորն էլ ենթարկվել են շահագործման, թեև ընկերությունը նշել է, որ դեպքերից ոչ մեկը չի առնչվել իր նոր Claude Fable կամ Mythos դասի մոդելներին:techxplore+1

Կենսաբանական զենքի հետազոտությունների նշումներ

Ամենատագնապալի բացահայտումների թվում Anthropic-ը նշել է, որ հայտնաբերել է Claude-ն օգտագործելու փորձեր այնպիսի հետազոտությունների համար, որոնք կարող են աջակցել կենսաբանական զենքի մշակմանը: Դեպքերից մեկը ներառում էր հարթակ, որը սպասարկում էր վիրուսաբաններին, ովքեր չիկունգունյա վիրուսի ֆունկցիոնալության բարձրացման հետազոտություններ էին անցկացնում՝ հարցումները ուղղորդելով ԱՄՆ ենթակառուցվածքների միջոցով՝ տարածաշրջանային արգելափակումներից խուսափելու և բովանդակությունը թաքցնելու համար: Մեկ այլ դեպք վերաբերում էր հետազոտողին, որը մուտք էր գործել Claude ոչ աջակցվող տարածաշրջանից՝ թռչնագրիպի բարձր պաթոգեն տեսակների կաթնասունների հարմարվողականության աշխատանքները պլանավորելու համար: Երրորդ դեպքը ներառում էր մեկին, որը կազմում էր դրամաշնորհային հայտ կենդանի օրթոպոքսվիրուսի հետազոտության համար՝ այն ընտանիքը, որը ներառում է ծաղիկ հիվանդությունը, այնտեղ, ինչը Anthropic-ը նկարագրել է որպես պետության հետ կապված լաբորատորիա:theweek+1

«Վաղուց մտահոգություն կար, որ AI մոդելները մի օր կարող են հասնել այնպիսի կարողությունների մակարդակի, որտեղ կարող են օգնել առկա պաթոգեններն ավելի վտանգավոր դարձնել կամ ստեղծել բոլորովին նորերը», — հայտարարել է ընկերությունը: Anthropic-ը նշել է, որ իր վերջին մոդելներն այժմ ներառում են ավելի խիստ երաշխիքներ, որոնք սահմանափակում են երկակի նշանակության կենսաբանական հետազոտությունների հարցումների հասանելիությունը:theweek

Կիբերգործողությունները դառնում են ավելի ինքնավար

Զեկույցում նաև փաստագրված է կիբերհարձակումների համար AI-ի օգտագործման փոփոխությունը՝ նկարագրելով անցումը AI-ից որպես օգնական դեպի AI-ն որպես կազմակերպիչ: Դեպքերից մեկում ռուսական պետական Midnight Blizzard խմբի հետ կապված դերակատարը ավտոմատացրել է ներխուժման արշավների գրեթե յուրաքանչյուր փուլ՝ ուղղված ուկրաինական պետական մարմիններին, եվրոպական դիվանագիտական առաքելություններին և անօդաչու թռչող սարքերի տեխնոլոգիաների մատակարարման շղթաներին: Դերակատարը օգտագործել է Claude-ը ֆիշինգային ենթակառուցվածք կառուցելու, հայտնաբերումից խուսափելու համար վնասակար ծրագրերը փոփոխելու և հարյուրավոր գիգաբայթ գողացված տվյալներ դուրս բերելու համար:anthropic

ShinyHunters կոլեկտիվի հետ կապված ֆինանսական շարժառիթներ ունեցող հարձակվողների մեկ այլ խումբ օգտագործել է Claude-ը զանգվածային տվյալների գողությունը արագացնելու համար՝ գողանալով միլիոնավոր վճարային քարտերի գրառումներ և ուղևորների տվյալներ բազմաթիվ զոհերից: Anthropic-ը նշել է, որ AI-ն «վերացրել է աշխատուժի և գործիքակազմի բացը» պետական հովանավորությամբ գործողությունների և անհատ հաքերների միջև, ինչը նշանակում է, որ բարդ հարձակումներն այլևս չեն պահանջում բարդ հարձակվողներ:anthropic

Ժամկետները ուշադրություն են գրավում

Զեկույցի հրապարակումը տեղի է ունեցել այն բանից երկու օր անց, երբ Anthropic-ի հետազոտողը հրապարակավ հրաժարական է տվել՝ պնդելով, որ ընկերությունը և նրա գործընկերները պատասխանատու կերպով չեն գործում AI-ի զարգացման հարցում, հայտնում է BBC-ն: «Հենց այսպիսի դեպքերում է, որ մենք պետք է ուսումնասիրենք դրա էթիկան», — ասել է Հնդկաստանի Նոյդա քաղաքում բնակվող AI հետազոտող Կիշան Ռ.-ն: «Ինչպե՞ս են Anthropic-ի և xAI-ի նման ընկերությունները որոշում, թե ինչն է համարվում իրենց AI մոդելների անվտանգ օգտագործում: Սա ժողովրդավարական հարց է, այլ ոչ թե կորպորատիվ»:bbc+1