Anthropic avduker skala for alvorlighetsgrad ved AI-jailbreaking sammen med Amazon, Microsoft og Google

Anthropic har globalt gjeninnført sin Claude Fable 5-modell etter at det amerikanske handelsdepartementet opphevet eksportkontrollene som hadde holdt AI-systemet offline i 19 dager, og publiserte onsdag et nytt bransjerammeverk for å vurdere alvorlighetsgraden av AI-jailbreaking.

Fra eksportforbud til gjeninnføring

Handelsdepartementet innførte eksportkontroller på Fable 5 og den mer kapable Mythos 5-modellen den 12. juni, etter at forskere hos Amazon (Amazon.com, Inc. ↘ 0.35%) oppdaget en jailbreaking-teknikk som fikk Fable 5 til å flagge programvaresårbarheter og, i ett tilfelle, skrive kode for demonstrasjon av utnyttelse. Ordren fulgte en telefonsamtale fra Amazon-sjef Andy Jassy til finansminister Scott Bessent om funnet.letsdatascience+1

Handelsminister Howard Lutnick trakk formelt tilbake restriksjonene i et brev datert 30. juni, og uttalte at en lisens «ikke lenger var påkrevd for eksport, re-eksport eller innenlandsk overføring» av noen av modellene. Til gjengjeld gikk Anthropic med på å proaktivt oppdage og adressere sikkerhetsrisikoer, bidra til å utvikle standarder for fremtidige modeller, og rapportere ondsinnet aktivitet til myndighetene. Anthropic bekreftet gjenopprettingen på X den kvelden, og Fable 5 returnerte til brukere globalt den 1. juli på tvers av Claude.ai, Claude Code og Claude Cowork.thenextweb+3

En lagdelt tilnærming til cybersikkerhet

Den 2. juli publiserte Anthropic detaljert dokumentasjon om Fable 5s sikkerhetsklassifiserere, som sorterer cybersikkerhetsforespørsler i fire kategorier i stedet for å blokkere alle sikkerhetsrelaterte spørsmål. Utvikling av løsepengevirus, distribusjon av skadevare og angrep på kritisk infrastruktur blokkeres alltid, mens penetrasjonstesting og utvikling av utnyttelseskode forblir begrenset i påvente av bedre autorisasjonskontroller. Defensive oppgaver som sikker koding, oppdateringshåndtering og sikkerhetsopplæring er tillatt som standard.cybersecuritynews+1

Sammen med offentliggjøringen av klassifisereren ga Anthropic ut et tidlig utkast til sitt rammeverk for alvorlighetsgrad ved cyber-jailbreaking, utviklet med partnere inkludert Amazon, Microsoft ↘ 0.99% og Google Alphabet Inc. ↗ 0.78% under Glasswing-samarbeidet. CJS-skalaen vurderer jailbreaking fra CJS-0 (Informativ) til CJS-4 (Kritisk) på tvers av fire akser: kapasitetsøkning, bredde, enkelhet ved våpengjøring og oppdagbarhet. Poengsummer kan eskaleres, men aldri reduseres. Anthropic har åpnet for tilbakemeldinger på [email protected] og lansert et dedikert HackerOne-program for feilbelønning for forskere.cyberpress+2

Tilgang via abonnement og veien videre

Utrullingen har et prisforbehold. Pro-, Max-, Team- og utvalgte Enterprise-abonnenter kan bruke Fable 5 opptil 50 prosent av sine ukentlige bruksgrenser frem til 7. juli uten ekstra kostnad. Etter denne datoen vil hver Fable 5-token gå over til målt bruk-kredittfakturering til standard API-rater – 10 dollar per million input-tokens og 50 dollar per million output-tokens – inntil kapasiteten tillater en full retur til pakkebaserte abonnementer. Tilgang til skymarkedet via AWS, Google Cloud og Microsoft Foundry blir også gjenopprettet.marktechpost+2