Anthropic-ը հայտնել է AI-ի միջոցով կենսաբանական զենքի ստեղծման փորձերը կանխելու մասին

Anthropic-ը հինգշաբթի օրը հրապարակել է 154 էջանոց զեկույց, որում բացահայտել է հինգ դեպք, երբ գիտնականներն օգտագործել են իր Claude AI մոդելները կենսաբանական հետազոտությունների համար, որոնք կարող են նպաստել զենքի մշակմանը: Զեկույցը նաև անդրադառնում է Ռուսաստանի, Չինաստանի, Իրանի և Եմենի հետ կապված կիբերհարձակումներին, հսկողության գործողություններին և սովորական զենքի մշակմանըyahoo+1:

2025 թվականի դեկտեմբերից մինչև 2026 թվականի օգոստոսն ընկած ժամանակահատվածն ընդգրկող զեկույցը ներկայացնում է այն, ինչ Washington Examiner-ը բնութագրել է որպես AI ոլորտի առաջին հայտնի խոստովանությունը, որ կենսաբանական զենքի մշակումը հատվում է AI-ի չարաշահման հետ: Anthropic-ը հայտնել է, որ չի կարողացել պարզել՝ հետազոտողները վնաս հասցնելու մտադրություն ունեցե՞լ են, թե՞ ոչ, սակայն որոշել է գործել, քանի որ հնարավոր հետևանքները չափազանց լուրջ էին՝ դրանք անտեսելու համարnytimes+1:

Երկակի նշանակության գիտություն և ռազմական լաբորատորիա

Ամենամանրամասն դեպքը վերաբերում է մի գիտնականի, որը մայիսին Claude-ի օգնությամբ փորձել է դրամաշնորհային հայտ կազմել չիկունգունյա վիրուսի ֆունկցիայի ձեռքբերման հետազոտության համար: Առաջարկվող աշխատանքը նպատակ ուներ մուտացիաների միջոցով վիրուսն ավելի վտանգավոր դարձնել և նախատեսված էր իրականացնել ռազմական հետազոտական ինստիտուտում: Երկրորդ դեպքը ներառում էր Claude-ի օգնությամբ շաբաթներ տևած պլանավորում՝ թռչնագրիպի վիրուսի կաթնասունների օրգանիզմին հարմարվելու վերաբերյալ: Եվս երեք դեպք վերաբերում էր օրթոպոքսվիրուսներին, թույն պարունակող միացություններին և տոքսիններինinterestingengineering+2:

Anthropic-ի սպառնալիքների հետախուզության ղեկավար Ջեյքոբ Քլայնը The New York Times-ին ասել է, որ հայտնաբերումը բնույթով բարդ է: «Դուք չեք տեսնում, որ ինչ-որ մեկը կոմիքսների ոճով ասի՝ «Ես ուզում եմ կենսաբանական զենք ստեղծել բոլորին սպանելու համար», — ասել է նա: «Սա աներևակայելի նուրբ իրավիճակ է»nytimes:

Anthropic-ը նշել է, որ Claude-ի հին մոդելները սահմանափակ կարողություններ են ցուցաբերել բարդ կենսաբանական հետազոտություններում, սակայն ներկայիս համակարգերը կարող են կատարել բարդ գիտական առաջադրանքներ, ինչը, ընկերության խոսքով, փոխում է ռիսկերի գնահատման իրենց մոտեցումըyahoo:

Պետական կապեր ունեցող դերակատարներ տարբեր ոլորտներում

Կենսաբանական սպառնալիքներից դուրս, զեկույցը փաստագրում է ռուսական լրտեսական խմբի կողմից Claude-ի օգտագործումը ուկրաինական պետական թիրախների և եվրոպական դիվանագիտական կազմակերպությունների դեմ կիբերհարձակումներն ավտոմատացնելու համար: Չինական և իրանական կառավարությունների հետ կապված դերակատարներն օգտագործել են Claude-ը սփյուռքի համայնքներին և այլախոհներին հետևելու համար: Anthropic-ը նաև բացահայտել է սովորական զենքի մշակման վեց դեպք, ներառյալ Եմենում գործող խմբավորումը, որը փորձարկել է կառավարվող հրթիռ և ժամեր անց վերադարձել Claude՝ վերլուծելու, թե ինչու է այն ձախողվելqz+1:

Արդյունաբերության մտահոգությունը

ԱՄՆ պաշտպանության նախարարի նախկին օգնական Էնդրյու Վեբերը, որը ծանոթացել է զեկույցին մինչ հրապարակումը, բացահայտումները անվանել է «պետական հովանավորությամբ կենսաբանական զենք մշակողների կողմից առաջատար AI մոդելների արագ զարգացող հնարավորությունները օգտագործելու սարսափելի օրինակներ»: Նա հորդորել է Ռուսաստանին, Չինաստանին և Հյուսիսային Կորեային զրկել ամենահզոր համակարգերից օգտվելու հնարավորությունիցyahoo+1:

Anthropic-ը արգելափակել է բոլոր հաշիվները, որոնք կապված են եղել նշված գործունեության հետ, ապամոնտաժել է տարածաշրջանային մուտքի սահմանափակումները շրջանցելու համար օգտագործվող ցանցերը և կիսվել է իր բացահայտումներով կառավարությունների և այլ AI ընկերությունների հետ: Ընկերությունը նաև հայտնել է, որ կենսաբանական ռիսկերի զտիչները պատահաբար անջատված են եղել կապալառուների երթևեկության համար 2025 թվականի մայիսից մինչև 2026 թվականի ապրիլը՝ բացահայտելով մոտ 133 միլիոն փոխանակում, թեև հետահայաց վերլուծությունը ցույց է տվել, որ այդ բացի պատճառով կենսաբանական զենքի ստեղծման որևէ հաստատված դեպք չի եղելinterestingengineering+2"