„Anthropic“ kartu su „Amazon“, „Microsoft“ ir „Google“ pristatė dirbtinio intelekto „jailbreak“ sunkumo skalę

„Anthropic“ visame pasaulyje iš naujo įdiegė savo „Claude Fable 5“ modelį po to, kai JAV prekybos departamentas panaikino eksporto kontrolę, dėl kurios dirbtinio intelekto sistema 19 dienų buvo nepasiekiama, o trečiadienį paskelbė naują pramonės sistemą, skirtą dirbtinio intelekto „jailbreak“ sunkumui vertinti.

Nuo eksporto draudimo iki pakartotinio diegimo

Prekybos departamentas birželio 12 d. įvedė eksporto kontrolę „Fable 5“ ir pajėgesniam „Mythos 5“ modeliui, kai „Amazon“ (Amazon.com, Inc. ↗ 0.40%) tyrėjai atrado „jailbreak“ metodą, kuris paskatino „Fable 5“ pažymėti programinės įrangos pažeidžiamumus ir, vienu atveju, parašyti kodo pavyzdį išnaudojimui. Šis nurodymas buvo duotas po „Amazon“ generalinio direktoriaus Andy Jassy skambučio iždo sekretoriui Scottui Bessentui dėl šio atradimo.letsdatascience+1

Prekybos sekretorius Howardas Lutnickas oficialiai atšaukė apribojimus birželio 30 d. laiške, nurodydamas, kad licencija „nebėra reikalinga eksportui, reeksportui ar perkėlimui šalies viduje“ nė vienam iš šių modelių. Mainais „Anthropic“ sutiko aktyviai aptikti ir spręsti saugumo rizikas, padėti kurti standartus būsimiems modeliams ir pranešti vyriausybei apie kenkėjišką veiklą. „Anthropic“ tą vakarą patvirtino atstatymą socialiniame tinkle „X“, o „Fable 5“ vartotojams visame pasaulyje sugrįžo liepos 1 d. per „Claude.ai“, „Claude Code“ ir „Claude Cowork“.thenextweb+3

Pakopinis požiūris į kibernetinį saugumą

Liepos 2 d. „Anthropic“ paskelbė išsamius dokumentus apie „Fable 5“ saugos klasifikatorius, kurie kibernetinio saugumo užklausas skirsto į keturias kategorijas, o ne blokuoja visas su saugumu susijusias užklausas. Išpirkos reikalaujančių programų kūrimas, kenkėjiškų programų platinimas ir atakos prieš kritinę infrastruktūrą visada blokuojami, o įsilaužimo testavimas ir išnaudojimo kūrimas lieka ribojami, kol bus įdiegtos geresnės autorizacijos kontrolės priemonės. Gynybinės užduotys, tokios kaip saugus kodavimas, pataisų valdymas ir saugumo švietimas, yra leidžiamos pagal numatytuosius nustatymus.cybersecuritynews+1

Kartu su klasifikatoriaus atskleidimu, „Anthropic“ išleido ankstyvą savo kibernetinio „jailbreak“ sunkumo sistemos juodraštį, sukurtą su partneriais, įskaitant „Amazon“, „Microsoft“ ↗ 1.62% ir „Google“ („Alphabet Inc.“ ↘ 0.48%), vykdant „Glasswing“ bendradarbiavimą. CJS skalė vertina „jailbreak“ nuo CJS-0 (informacinis) iki CJS-4 (kritinis) pagal keturias ašis: galimybių padidėjimas, aprėptis, ginklavimosi paprastumas ir aptinkamumas. Balai gali būti didinami, bet niekada nemažinami. „Anthropic“ atidarė atsiliepimų kanalą [email protected] ir pradėjo specialią „HackerOne“ klaidų atlygio programą tyrėjams.cyberpress+2

Prieiga per prenumeratą ir kas laukia toliau

Šis diegimas turi kainos niuansų. „Pro“, „Max“, „Team“ ir tam tikri „Enterprise“ prenumeratoriai gali naudoti „Fable 5“ iki 50 procentų savo savaitinių naudojimo limitų iki liepos 7 d. be papildomų mokesčių. Po šios datos kiekvienas „Fable 5“ žetonas bus apmokestinamas pagal skaitiklio naudojimo kreditus standartiniais API tarifais – 10 USD už milijoną įvesties žetonų ir 50 USD už milijoną išvesties žetonų – kol pajėgumai leis visiškai grįžti prie susietų prenumeratų. Taip pat atstatoma prieiga prie debesijos prekyvietės per AWS, „Google Cloud“ ir „Microsoft Foundry“.marktechpost+2