Anthropic presenterar skala för allvarlighetsgrad vid AI-jailbreaking tillsammans med Amazon, Microsoft och Google

Anthropic har globalt återinfört sin Claude Fable 5-modell efter att det amerikanska handelsdepartementet hävt de exportkontroller som hållit AI-systemet offline i 19 dagar, och publicerade på onsdagen ett nytt branschramverk för att bedöma allvarlighetsgraden av AI-jailbreaking.

Från exportförbud till återinförande

Handelsdepartementet införde exportkontroller på Fable 5 och den mer kapabla Mythos 5-modellen den 12 juni, efter att forskare hos Amazon (Amazon.com, Inc. ↘ 0.35%) upptäckt en jailbreaking-teknik som fick Fable 5 att flagga mjukvarusårbarheter och, i ett fall, skriva kod för att demonstrera utnyttjande. Ordern följde ett telefonsamtal från Amazons VD Andy Jassy till finansminister Scott Bessent om fyndet.letsdatascience+1

Handelsminister Howard Lutnick drog formellt tillbaka restriktionerna i ett brev daterat den 30 juni och uppgav att en licens "inte längre krävdes för export, återexport eller inrikes överföring" av någon av modellerna. I utbyte gick Anthropic med på att proaktivt upptäcka och hantera säkerhetsrisker, bidra till att utveckla standarder för framtida modeller och rapportera skadlig aktivitet till myndigheterna. Anthropic bekräftade återställningen på X samma kväll, och Fable 5 återvände till användare globalt den 1 juli via Claude.ai, Claude Code och Claude Cowork.thenextweb+3

En lagrad ansats till cybersäkerhet

Den 2 juli publicerade Anthropic detaljerad dokumentation om Fable 5s säkerhetsklassificerare, som sorterar cybersäkerhetsförfrågningar i fyra kategorier istället för att blockera alla säkerhetsrelaterade frågor. Utveckling av ransomware, spridning av skadlig kod och attacker mot kritisk infrastruktur blockeras alltid, medan penetrationstestning och utveckling av utnyttjandekod förblir begränsade i väntan på bättre auktoriseringskontroller. Defensiva uppgifter som säker kodning, patchhantering och säkerhetsutbildning är tillåtna som standard.cybersecuritynews+1

Vid sidan av offentliggörandet av klassificeraren släppte Anthropic ett tidigt utkast till sitt ramverk för allvarlighetsgrad vid cyber-jailbreaking, utvecklat med partners inklusive Amazon, Microsoft ↘ 0.99% och Google Alphabet Inc. ↗ 0.78% inom ramen för Glasswing-samarbetet. CJS-skalan bedömer jailbreaking från CJS-0 (Informativ) till CJS-4 (Kritisk) över fyra axlar: kapacitetsökning, bredd, enkelhet vid vapengörande och upptäckbarhet. Poäng kan eskaleras men aldrig reduceras. Anthropic har öppnat för feedback på [email protected] och lanserat ett dedikerat HackerOne-program för buggbelöningar för forskare.cyberpress+2

Tillgång via prenumeration och vad som händer härnäst

Utullningen har ett prisvillkor. Pro-, Max-, Team- och utvalda Enterprise-prenumeranter kan använda Fable 5 upp till 50 procent av sina veckovisa användningsgränser fram till den 7 juli utan extra kostnad. Efter det datumet kommer varje Fable 5-token att gå över till mätt användningskreditfakturering till standard-API-priser – 10 dollar per miljon input-tokens och 50 dollar per miljon output-tokens – tills kapaciteten tillåter en full återgång till paketerade prenumerationer. Tillgång till molnmarknadsplatsen via AWS, Google Cloud och Microsoft Foundry återställs också.marktechpost+2