Anthropic kynnir kvarða fyrir alvarleika gervigreindar-jailbreak ásamt Amazon, Microsoft og Google

Anthropic birti ramma sinn um alvarleika net-jailbreak-tilvika þann 2. júlí, þróaðan með Amazon, Microsoft og Google til að staðla hvernig jailbreak í gervigreind eru metin.letsdatascience+1
CJS-kvarðinn gefur jailbreak-tilvikum einkunn frá CJS-0 til CJS-4 út frá fjórum þáttum — aukningu á getu, umfang, auðveldni við vopnavæðingu og uppgötvun — þar sem einkunnir geta hækkað en aldrei lækkað.cybersecuritynews+1
Fable 5 sneri aftur á heimsvísu þann 1. júlí eftir 19 daga frystingu vegna útflutningseftirlits, með nýjum öryggisflokkurum sem flokka netöryggisbeiðnir í fjögur áhættuþrep í stað þess að loka á allt.marktechpost+1

Anthropic hefur endurútgefið Claude Fable 5 líkanið sitt á heimsvísu eftir að viðskiptaráðuneyti Bandaríkjanna aflétti útflutningseftirliti sem hafði haldið gervigreindarkerfinu óvirku í 19 daga, og á miðvikudag birti fyrirtækið nýjan iðnaðarramma til að meta alvarleika jailbreak-tilvika í gervigreind.

Frá útflutningsbanni til endurútgáfu

Viðskiptaráðuneytið setti útflutningseftirlit á Fable 5 og öflugra Mythos 5 líkanið þann 12. júní, eftir að rannsakendur hjá Amazon Amazon.com, Inc. uppgötvuðu jailbreak-tækni sem fékk Fable 5 til að benda á hugbúnaðargalla og, í einu tilviki, skrifa kóða til að sýna fram á hvernig hægt væri að nýta þá. Skipunin kom í kjölfar símtals frá Andy Jassy, forstjóra Amazon, til Scott Bessent fjármálaráðherra um uppgötvunina.letsdatascience+1

Howard Lutnick viðskiptaráðherra afturkallaði takmarkanirnar formlega í bréfi dagsettu 30. júní og sagði að leyfis væri „ekki lengur krafist fyrir útflutning, endurútflutning eða flutning innanlands“ á hvorugu líkaninu. Í staðinn samþykkti Anthropic að greina og bregðast við öryggisáhættum fyrirbyggjandi, hjálpa til við að þróa staðla fyrir framtíðarlíkön og tilkynna stjórnvöldum um skaðlega starfsemi. Anthropic staðfesti endurkomuna á X það kvöld og Fable 5 varð aftur aðgengilegt notendum um allan heim þann 1. júlí í gegnum Claude.ai, Claude Code og Claude Cowork.thenextweb+3

Þrepaskipt nálgun á netöryggi

Þann 2. júlí birti Anthropic ítarleg gögn um öryggisflokkara Fable 5, sem flokka netöryggisbeiðnir í fjóra flokka í stað þess að loka á allar öryggistengdar fyrirspurnir. Þróun á lausnarhugbúnaði (ransomware), dreifing á spilliforritum og árásir á mikilvæga innviði eru alltaf lokaðar, á meðan innbrotsprófanir og þróun á nýtingarkóða eru áfram takmarkaðar á meðan beðið er eftir betri heimildastýringum. Varnarverkefni eins og örugg forritun, plásturstýring og öryggisfræðsla eru leyfð sjálfgefið.cybersecuritynews+1

Samhliða birtingu flokkaranna gaf Anthropic út drög að rammanum um alvarleika net-jailbreak-tilvika, þróaðan með samstarfsaðilum á borð við Amazon, Microsoft og Google Alphabet Inc. undir Glasswing-samstarfinu. CJS-kvarðinn metur jailbreak frá CJS-0 (upplýsandi) til CJS-4 (gagnrýnt) út frá fjórum þáttum: aukningu á getu, umfang, auðveldni við vopnavæðingu og uppgötvun. Einkunnir geta hækkað en aldrei lækkað. Anthropic hefur opnað fyrir athugasemdir á [email protected] og hleypt af stokkunum sérstöku HackerOne-verðlaunaforriti fyrir rannsakendur.cyberpress+2

Aðgangur að áskriftum og framhaldið

Útgáfan fylgir verðlagningarfyrirvara. Pro, Max, Team og valdir Enterprise-áskrifendur geta notað Fable 5 allt að 50 prósent af vikulegum notkunarmörkum sínum til 7. júlí án aukakostnaðar. Eftir þann dag færist hver Fable 5-eining yfir í mælda notkunargjaldskrá á stöðluðum API-verðum — 10 dollarar á hverja milljón innsláttareininga og 50 dollarar á hverja milljón úttakseininga — þar til afkastageta leyfir fulla endurkomu í áskriftarpakka. Aðgangur að skýjamarkaðstorgum í gegnum AWS, Google Cloud og Microsoft Foundry er einnig verið að endurheimta.marktechpost+2

Heimildir (15)