Anthropic slekkir á helstu gervigreindarlíkönum sínum eftir útflutningseftirlitsfyrirmæli frá Bandaríkjunum

Anthropic hefur lokað fyrir aðgang að öflugustu gervigreindarlíkönum sínum, Claude Fable 5 og Claude Mythos 5, fyrir alla viðskiptavini eftir að bandarísk stjórnvöld gáfu út útflutningseftirlitsfyrirmæli þar sem vísað var til þjóðaröryggisáhyggna. Fyrirtækið sagðist hafa móttekið fyrirmælin á fimmtudagskvöldið og farið að þeim tafarlaust, á sama tíma og það mótmælti opinberlega rökstuðningnum á bak við aðgerðina.

Fyrirmælin

Í yfirlýsingu sem birt var á vefsíðu sinni sagði Anthropic að bandarísk stjórnvöld hefðu gefið út fyrirmæli sem krefjast þess að fyrirtækið stöðvi allan aðgang að Fable 5 og Mythos 5 fyrir alla erlenda ríkisborgara, „hvort sem þeir eru innan eða utan Bandaríkjanna, þar með talið erlenda starfsmenn Anthropic“. Vegna þess að fyrirtækið getur ekki greint samstundis á milli innlendra og erlendra notenda á kerfum sínum, slökkti það á báðum líkönunum fyrir alla viðskiptavini.anthropic

Axios greindi frá því að viðskiptaráðherra Howard Lutnick hefði sent forstjóra Anthropic, Dario Amodei, bréf þar sem fram kom að líkönin yrðu háð útflutningseftirliti. Aðgangur að öllum öðrum líkönum Anthropic er óbreyttur.9to5mac+1

Deilan um jailbreak

Áhyggjur stjórnvalda snúast um greinda aðferð til að komast framhjá öryggisflokkurum Fable 5. Anthropic sagðist aðeins hafa fengið „munnlegar vísbendingar um hugsanlegt þröngt, ekki alhliða jailbreak, sem felst í raun í því að biðja líkanið um að lesa tiltekinn kóðagrunn og laga hugbúnaðargalla“.anthropic

Fyrirtækið brást hart við og sagðist hafa yfirfarið tæknina sem um ræðir og komist að því að hún skilaði niðurstöðum sem væru „víða aðgengilegar frá öðrum líkönum“, þar á meðal GPT-5.5 frá OpenAI. Anthropic bætti við að það hefði ekki fengið upplýsingar um neitt jailbreak sem „leiddi til skaðlegrar niðurstöðu“ og kallaði aðgerð stjórnvalda „misskilning“.anthropic

Atvikið fylgir í kjölfar fullyrðingar frá rannsakanda sem þekkist undir nafninu „Pliny the Liberator“, sem sagði nokkrum dögum fyrr að hann hefði komist framhjá öryggisflokkurum Fable 5 og birt kerfisboð líkansins á GitHub.pasqualepillitteri

Víðtækari afleiðingar

Fable 5 hafði verið hleypt af stokkunum aðeins nokkrum dögum fyrr, þann 9. júní, sem opinber útgáfa af Mythos-líkani Anthropic, með nýjum öryggisráðstöfunum sem loka á svör varðandi netöryggi og líffræði. Mythos 5, tvíburinn án takmarkana, var takmarkaður við vottaða netvarnaraðila stjórnvalda.thehackernews+1

Anthropic varaði við því að ef staðallinn sem beitt var á líkön þeirra yrði notaður í öllum iðnaðinum, „myndi það í raun stöðva alla nýja dreifingu líkana fyrir alla veitendur fremstu líkana“. Fyrirtækið sagðist vera að vinna að því að endurheimta aðgang og hét því að deila frekari tæknilegum upplýsingum innan 24 klukkustunda.anthropic