Anthropic julkisti tekoälyn jailbreak-vakavuusasteikon yhdessä Amazonin, Microsoftin ja Googlen kanssa

Anthropic on palauttanut Claude Fable 5 -mallinsa maailmanlaajuiseen käyttöön sen jälkeen, kun Yhdysvaltain kauppaministeriö poisti vientirajoitukset, jotka pitivät tekoälyjärjestelmän offline-tilassa 19 päivän ajan. Keskiviikkona yhtiö julkaisi uuden alan kehyksen tekoälyn jailbreak-tapausten vakavuuden arvioimiseksi.

Vientikiellosta uudelleenjulkaisuun

Kauppaministeriö asetti vientirajoitukset Fable 5:lle ja kyvykkäämmälle Mythos 5 -mallille 12. kesäkuuta, kun Amazonin Amazon.com, Inc. ↘ 0.35% tutkijat löysivät jailbreak-tekniikan, joka sai Fable 5:n merkitsemään ohjelmistohaavoittuvuuksia ja eräässä tapauksessa kirjoittamaan hyökkäyksen demonstrointikoodia. Määräys seurasi Amazonin toimitusjohtaja Andy Jassyn ja valtiovarainministeri Scott Bessentin välistä puhelua löydöksestä.letsdatascience+1

Kauppaministeri Howard Lutnick peruutti rajoitukset virallisesti 30. kesäkuuta päivätyssä kirjeessä todeten, että kummankaan mallin "vientiin, jälleenvientiin tai maan sisäiseen siirtoon ei enää vaadita lupaa". Vastineeksi Anthropic sitoutui havaitsemaan ja käsittelemään tietoturvariskejä ennakoivasti, auttamaan tulevien mallien standardien kehittämisessä ja raportoimaan haitallisesta toiminnasta hallitukselle. Anthropic vahvisti palautuksen X-palvelussa samana iltana, ja Fable 5 palasi käyttäjien saataville maailmanlaajuisesti 1. heinäkuuta Claude.ai-, Claude Code- ja Claude Cowork -palveluissa.thenextweb+3

Tasopohjainen lähestymistapa kyberturvallisuuteen

Anthropic julkaisi 2. heinäkuuta yksityiskohtaista dokumentaatiota Fable 5:n turvallisuusluokittelijoista, jotka lajittelevat kyberturvallisuuspyynnöt neljään kategoriaan sen sijaan, että ne estäisivät kaikki tietoturvaan liittyvät kyselyt. Kiristysohjelmien kehittäminen, haittaohjelmien levittäminen ja kriittiseen infrastruktuuriin kohdistuvat hyökkäykset estetään aina, kun taas penetraatiotestaus ja hyökkäysten kehittäminen pysyvät rajoitettuina parempien valtuutuskontrollien puuttuessa. Puolustukselliset tehtävät, kuten turvallinen koodaus, päivitysten hallinta ja tietoturvakoulutus, ovat oletusarvoisesti sallittuja.cybersecuritynews+1

Luokittelijoiden julkistamisen ohella Anthropic julkaisi luonnoksen Cyber Jailbreak Severity -kehyksestään, joka on kehitetty yhteistyössä Amazonin, Microsoftin ↘ 0.99% ja Google Alphabet Inc:n ↗ 0.78% kanssa osana Glasswing-yhteistyötä. CJS-asteikko luokittelee jailbreakit välillä CJS-0 (informaatio) – CJS-4 (kriittinen) neljän akselin perusteella: kyvykkyyden kasvu, laajuus, aseistamisen helppous ja löydettävyys. Pisteitä voidaan korottaa, mutta ei koskaan laskea. Anthropic on avannut palautekanavan osoitteessa [email protected] ja käynnistänyt tutkijoille suunnatun HackerOne-bugipalkkio-ohjelman.cyberpress+2

Tilauspohjainen pääsy ja tulevaisuuden näkymät

Käyttöönottoon liittyy hinnoitteluehto. Pro-, Max-, Team- ja tietyt Enterprise-tilaajat voivat käyttää Fable 5:tä jopa 50 prosentilla viikoittaisista käyttörajoistaan 7. heinäkuuta asti ilman lisäkustannuksia. Tämän päivämäärän jälkeen jokainen Fable 5 -token siirtyy mitattuun käyttöluotto-laskutukseen standardien API-hintojen mukaisesti — 10 dollaria miljoonaa syötetokenia kohden ja 50 dollaria miljoonaa tulostetokenia kohden — kunnes kapasiteetti sallii täyden paluun pakettitilauksiin. Pääsy pilvimarkkinapaikkoihin AWS:n, Google Cloudin ja Microsoft Foundryn kautta on myös palautumassa.marktechpost+2