„Amazon“ generalinis direktorius Jassy išreiškė susirūpinimą prieš JAV uždarant „Anthropic“ DI modelius

„Amazon“ Amazon.com, Inc. ↗ 0.40% generalinis direktorius Andy Jassy šią savaitę diskutavo su iždo sekretoriumi Scottu Bessentu ir kitais aukšto rango D. Trumpo administracijos pareigūnais apie saugumo spragas pažangiausiuose „Anthropic“ DI modeliuose. Šie pokalbiai tiesiogiai vyko prieš penktadienį, birželio 12 d., Prekybos departamento paskelbtą precedento neturinčią eksporto kontrolės direktyvą, įpareigojančią „Anthropic“ visame pasaulyje sustabdyti prieigą prie „Claude Fable 5“ ir „Mythos 5“ sistemų.

Šis atskleidimas, apie kurį pirmiausia pranešė „The Information“ ir patvirtino „Wall Street Journal“, atskleidžia ryškų konfliktą: „Amazon“ vienu metu yra didžiausia „Anthropic“ investuotoja (įsipareigojusi investuoti daugiau nei 4 mlrd. JAV dolerių), pagrindinė debesijos infrastruktūros partnerė per AWS ir dabar įmonė, kurios lobizmas paskatino vyriausybę uždaryti „Anthropic“ flagmanus.theinformation+1

Direktyva ir jos pasekmės

Prekybos sekretorius Howardas Lutnickas penktadienį išsiuntė laišką „Anthropic“ generaliniam direktoriui Dario Amodei, kuriuo abu modeliai įtraukti į eksporto kontrolės sąrašą, uždraudžiant prieigą visiems užsienio piliečiams tiek JAV viduje, tiek už jos ribų, įskaitant pačios „Anthropic“ darbuotojus, kurie yra užsienio piliečiai. „Anthropic“ teigė gavusi direktyvą 17:21 val. ET laiku ir, negalėdama skubiai patikrinti visų vartotojų pilietybės, išjungė abu modelius visiems klientams visame pasaulyje.letsdatascience+3

„Šio įsakymo pasekmė yra ta, kad turime staiga išjungti „Fable 5“ ir „Mythos 5“ visiems savo klientams, kad užtikrintume atitiktį“, – pareiškė „Anthropic“. Prieiga prie kitų įmonės modelių išlieka nepakitusi.facebook

Šis veiksmas yra agresyviausias JAV vyriausybės žingsnis ribojant prieigą prie komerciškai naudojamo DI modelio. Administracijos pareigūnas „Axios“ sakė, kad apribojimai gali trukti „kelias ateinančias savaites“, kol bus įvertintos saugumo problemos.letsdatascience

Prieštaringi naratyvai

Ginčo centre – tariamas „Fable 5“ „jailbreak“ – kaip pranešama, pademonstruotas tyrėjų, kurie panaudojo modelį informacijai, naudingai kibernetinėms atakoms, išgauti. „Anthropic“ tai apibūdino kaip „potencialų siaurą, ne visuotinį „jailbreak“, susijusį su anksčiau žinomais pažeidžiamumais, teigdama, kad modeliui buvo tiesiog duota užklausa perskaityti konkretų kodo bazę ir nustatyti programinės įrangos trūkumus.techcrunch

Davidas Sacksas, buvęs Baltųjų rūmų patarėjas DI klausimais, šeštadienį sakė, kad Amodei atmetė vyriausybės prašymą „pataisyti „jailbreak“ arba išjungti modelį“ po to, kai „labai patikimas partneris“ pranešė apie pažeidžiamumą. „Anthropic“ ginčijo susirūpinimo mastą, pavadindama direktyvą „nesusipratimu“ ir teigdama, kad tikisi atkurti prieigą „kaip įmanoma greičiau“.wftv+1

Susipynęs interesų tinklas

Šis epizodas išryškina nepaprastus DI pramonės ryšius. „Amazon“ konkuruoja su „Anthropic“ per savo „Nova“ modelius, kartu būdama įmonės debesijos paslaugų teikėja ir didžiausia rėmėja. Kibernetinio saugumo ekspertė Katie Moussouris, peržiūrėjusi „jailbreak“ ataskaitą, pavadino vyriausybės reakciją „visiška perdėta reakcija“, o vienas Demokratų partijos Atstovų Rūmų narys direktyvą pavadino „pasikėsinimu į verslo nužudymą“.fourweekmba

„Fable 5“ viešai pasirodė birželio 9 d. kaip galingesnio „Mythos 5“ versija, kurį „Anthropic“ nuo balandžio mėnesio ribojo, leisdama naudotis tik patikrintiems kibernetinio saugumo gynėjams dėl jo gebėjimo nustatyti „zero-day“ pažeidžiamumus. Platesnis „Mythos“ modelis jau anksčiau sukėlė federalinių pareigūnų nerimą, todėl Bessentas ir Federalinio rezervo pirmininkas Jerome'as Powellas balandžio mėnesį įspėjo bankų vadovus apie jo keliamą riziką.sullcrom+3