Anthropic-ը ներկայացրել է AI jailbreak-ի ծանրության սանդղակը Amazon-ի, Microsoft-ի և Google-ի հետ համատեղ

Anthropic-ը գլոբալ մակարդակով վերագործարկել է իր Claude Fable 5 մոդելը այն բանից հետո, երբ ԱՄՆ Առևտրի դեպարտամենտը հանեց արտահանման վերահսկողությունը, որը AI համակարգը պահում էր անցանց 19 օր շարունակ, և չորեքշաբթի օրը հրապարակեց նոր ոլորտային շրջանակ՝ AI jailbreak-ների ծանրությունը գնահատելու համար:

Արտահանման արգելքից մինչև վերագործարկում

Առևտրի դեպարտամենտը հունիսի 12-ին արտահանման վերահսկողություն սահմանեց Fable 5-ի և ավելի հզոր Mythos 5 մոդելի վրա այն բանից հետո, երբ Amazon-ի (Amazon.com, Inc. ↘ 2.16%) հետազոտողները հայտնաբերեցին jailbreak-ի մի տեխնիկա, որը Fable 5-ին դրդում էր նշել ծրագրային ապահովման խոցելիությունները և, մի դեպքում, գրել exploit-ցուցադրական կոդ: Հրամանը հաջորդեց Amazon-ի գործադիր տնօրեն Էնդի Ջասիի հեռախոսազանգին Ֆինանսների նախարար Սքոթ Բեսենտին՝ այս բացահայտման վերաբերյալ:letsdatascience+1

Առևտրի նախարար Հովարդ Լաթնիկը հունիսի 30-ի նամակում պաշտոնապես չեղյալ հայտարարեց սահմանափակումները՝ նշելով, որ ոչ մի մոդելի արտահանման, վերաարտահանման կամ երկրի ներսում փոխանցման համար լիցենզիա «այլևս չի պահանջվում»: Փոխարենը, Anthropic-ը համաձայնեց նախաձեռնողաբար հայտնաբերել և լուծել անվտանգության ռիսկերը, օգնել մշակել ստանդարտներ ապագա մոդելների համար և կառավարությանը զեկուցել վնասակար գործունեության մասին: Anthropic-ը վերականգնումը հաստատեց նույն երեկոյան X-ում, և Fable 5-ը հուլիսի 1-ին գլոբալ մակարդակով վերադարձավ օգտատերերին Claude.ai-ի, Claude Code-ի և Claude Cowork-ի միջոցով:thenextweb+3

Կիբերանվտանգության աստիճանական մոտեցում

Հուլիսի 2-ին Anthropic-ը հրապարակեց մանրամասն փաստաթղթեր Fable 5-ի անվտանգության դասակարգիչների վերաբերյալ, որոնք կիբերանվտանգության հարցումները դասակարգում են չորս կատեգորիաների՝ անվտանգության հետ կապված բոլոր հարցումները արգելափակելու փոխարեն: Ransomware-ի մշակումը, վնասակար ծրագրերի տարածումը և կրիտիկական ենթակառուցվածքների վրա հարձակումները միշտ արգելափակվում են, մինչդեռ պենետրացիոն թեստավորումը և exploit-ների մշակումը մնում են սահմանափակված՝ մինչև ավելի լավ թույլտվության վերահսկողության ներդրումը: Պաշտպանական խնդիրները, ինչպիսիք են անվտանգ կոդավորումը, patch-երի կառավարումը և անվտանգության վերաբերյալ կրթությունը, լռելյայն թույլատրված են:cybersecuritynews+1

Դասակարգիչների բացահայտման հետ մեկտեղ, Anthropic-ը թողարկեց իր Cyber Jailbreak Severity շրջանակի վաղ նախագիծը, որը մշակվել է գործընկերների հետ, այդ թվում՝ Amazon-ի, Microsoft ↘ 0.65%-ի և Google Alphabet Inc. ↘ 1.02%-ի հետ՝ Glasswing համագործակցության շրջանակներում: CJS սանդղակը գնահատում է jailbreak-ները CJS-0-ից (տեղեկատվական) մինչև CJS-4 (կրիտիկական)՝ չորս առանցքների երկայնքով՝ հնարավորությունների աճ, լայնություն, զենքի վերածելու հեշտություն և հայտնաբերելիություն: Միավորները կարող են բարձրացվել, բայց երբեք չեն կարող նվազեցվել: Anthropic-ը բացել է հետադարձ կապի հնարավորություն [email protected] հասցեով և հետազոտողների համար գործարկել է HackerOne-ի հատուկ bug bounty ծրագիր:cyberpress+2

Բաժանորդագրության հասանելիություն և ի՞նչ է սպասվում հետո

Գործարկումը ուղեկցվում է գնային պայմանով: Pro, Max, Team և որոշ Enterprise բաժանորդներ կարող են օգտագործել Fable 5-ը իրենց շաբաթական սահմանաչափերի մինչև 50 տոկոսի չափով մինչև հուլիսի 7-ը՝ առանց լրացուցիչ ծախսերի: Այդ ամսաթվից հետո Fable 5-ի յուրաքանչյուր token անցնում է օգտագործման վրա հիմնված հաշվարկի՝ ստանդարտ API սակագներով՝ 10 ԱՄՆ դոլար մեկ միլիոն մուտքային token-ի համար և 50 ԱՄՆ դոլար մեկ միլիոն ելքային token-ի համար՝ մինչև հզորությունները թույլ կտան լիարժեք վերադառնալ փաթեթային բաժանորդագրություններին: AWS-ի, Google Cloud-ի և Microsoft Foundry-ի միջոցով ամպային շուկայի հասանելիությունը նույնպես վերականգնվում է:marktechpost+2