Společnost Anthropic představila spolu s Amazonem, Microsoftem a Googlem stupnici závažnosti prolomení AI

Společnost Anthropic zveřejnila 2. července svůj rámec pro závažnost kybernetického prolomení (Cyber Jailbreak Severity – CJS), vyvinutý společně s firmami Amazon, Microsoft a Google za účelem standardizace hodnocení prolomení AI.letsdatascience+1
Stupnice CJS hodnotí prolomení od CJS-0 do CJS-4 napříč čtyřmi osami – nárůst schopností, šíře, snadnost zneužití jako zbraně a zjistitelnost – přičemž skóre lze zvyšovat, ale nikdy snižovat.cybersecuritynews+1
Model Fable 5 se celosvětově vrátil 1. července po 19denním zmrazení v důsledku kontroly vývozu, a to s novými bezpečnostními klasifikátory, které třídí požadavky na kybernetickou bezpečnost do čtyř rizikových úrovní namísto plošného blokování.marktechpost+1

Společnost Anthropic celosvětově znovu nasadila svůj model Claude Fable 5 poté, co americké ministerstvo obchodu zrušilo vývozní kontroly, které držely systém AI 19 dní offline, a ve středu zveřejnila nový průmyslový rámec pro hodnocení závažnosti prolomení AI.

Od zákazu vývozu k opětovnému nasazení

Ministerstvo obchodu uvalilo 12. června vývozní kontroly na model Fable 5 a výkonnější model Mythos 5 poté, co výzkumníci ze společnosti Amazon (Amazon.com, Inc. ) objevili techniku prolomení, která přiměla Fable 5 k označení softwarových zranitelností a v jednom případě k napsání kódu pro demonstraci zneužití. Nařízení následovalo po telefonátu generálního ředitele Amazonu Andyho Jassyho ministrovi financí Scottu Bessentovi ohledně tohoto zjištění.letsdatascience+1

Ministr obchodu Howard Lutnick formálně zrušil omezení v dopise ze dne 30. června s tím, že licence „již není vyžadována pro vývoz, opětovný vývoz nebo vnitrostátní převod“ ani jednoho z modelů. Výměnou za to společnost Anthropic souhlasila s proaktivní detekcí a řešením bezpečnostních rizik, pomocí při vývoji standardů pro budoucí modely a hlášením škodlivé činnosti vládě. Společnost Anthropic potvrdila obnovení provozu ten večer na síti X a model Fable 5 se uživatelům po celém světě vrátil 1. července prostřednictvím služeb Claude.ai, Claude Code a Claude Cowork.thenextweb+3

Stupňovitý přístup ke kybernetické bezpečnosti

Dne 2. července zveřejnila společnost Anthropic podrobnou dokumentaci k bezpečnostním klasifikátorům modelu Fable 5, které třídí požadavky na kybernetickou bezpečnost do čtyř kategorií, namísto blokování všech dotazů souvisejících s bezpečností. Vývoj ransomwaru, šíření malwaru a útoky na kritickou infrastrukturu jsou vždy blokovány, zatímco penetrační testování a vývoj exploitů zůstávají omezeny až do zavedení lepších kontrol autorizace. Defenzivní úkoly, jako je bezpečné kódování, správa oprav a bezpečnostní vzdělávání, jsou ve výchozím nastavení povoleny.cybersecuritynews+1

Společně se zveřejněním klasifikátoru vydala společnost Anthropic raný návrh svého rámce pro závažnost kybernetického prolomení, vyvinutý s partnery včetně Amazonu, Microsoftu a Google Alphabet Inc. v rámci spolupráce Glasswing. Stupnice CJS hodnotí prolomení od CJS-0 (Informační) do CJS-4 (Kritické) napříč čtyřmi osami: nárůst schopností, šíře, snadnost zneužití jako zbraně a zjistitelnost. Skóre lze zvyšovat, ale nikdy snižovat. Společnost Anthropic otevřela zpětnou vazbu na adrese [email protected] a spustila specializovaný program odměn za chyby HackerOne pro výzkumníky.cyberpress+2

Přístup k předplatnému a co bude dál

Zavedení má cenové omezení. Předplatitelé tarifů Pro, Max, Team a vybraní podnikoví předplatitelé mohou využívat Fable 5 až do 50 procent svých týdenních limitů využití do 7. července bez dalších nákladů. Po tomto datu se každý token Fable 5 přesune na fakturaci podle využití kreditů za standardní sazby API – 10 USD za milion vstupních tokenů a 50 USD za milion výstupních tokenů – dokud kapacita neumožní úplný návrat k balíčkovému předplatnému. Obnovuje se také přístup ke cloudovému tržišti prostřednictvím AWS, Google Cloud a Microsoft Foundry.marktechpost+2

Zdroje (15)