Rannsakandi heldur því fram að Claude Fable 5 frá Anthropic hafi verið brotið á bak aftur dögum eftir útgáfu

Sagt er að öryggisgirðingar öflugasta gervigreindarlíkans Anthropic sem er aðgengilegt almenningi, Claude Fable 5, hafi verið sniðgengnar af þekktum gervigreindarrannsakanda aðeins einum degi eftir útgáfu þess þann 9. júní, sem vekur nýjar spurningar um endingu öryggisráðstafana gervigreindar jafnvel þegar líkön verða hæfari.

Sniðgangan

Afkastamikill gervigreindarbrotamaðurinn „Pliny the Liberator“ skrifaði á X þann 10. júní að hann og teymi sjálfvirkra umboðsaðila hefðu tekist að sniðganga öryggisflokkara Fable 5 með því sem hann lýsti sem „hópveiðum“ — samræmdri árás fjölmennra umboðsaðila sem sameinar nokkrar tækni. Samkvæmt Cybersecurity News innihéldu aðferðirnar Unicode- og kyrillíska stafaútskiptingu til að komast hjá leitarorðasíum, rakningu á löngu samhengi, flokkunar- og skjalauppbyggingu, skáldskapar- og frásagnargrind, og nálgun þar sem skaðlegum upplýsingum var útdregið í saklausum brotum og sett saman aftur.cybersecuritynews+1

Síðasta tæknin reyndist áhrifaríkust. „Að fá upplýsingar um ferlið sjálft, eins og Birch-afoxunaraðferð eða afoxandi amínun, er mun gerlegra“ en að biðja beint um nefnt skaðlegt efnasamband, skrifaði Pliny og bætti við að áður brotið Claude Opus 4.8-tilvik hefði aðstoðað í bakendanum. Skjáskot sem rannsakandinn deildi sýndu úttak sem innihélt skref-fyrir-skref leiðbeiningar um nýtingu á biðminnisyfirfalli og leiðir til efnasmíði. Pliny birti einnig það sem hann lýsti sem um 120.000 stafa kerfisleiðbeiningu Fable 5 á GitHub, sem afhjúpaði innri öryggisleiðbeiningar sem Anthropic notar til að stjórna líkaninu.x+2

Fullyrðingar Anthropic fyrir útgáfu

Anthropic hafði staðsett Fable 5 sem hert gegn slíkum árásum. Í skýrslu frá TechCrunch á útgáfudegi kom fram að fyrirtækið sagði að ytri villuleitarverðlaun „hefðu ekki framleitt nein alhliða brot á yfir 1.000 klukkustunda prófun“ og að ytri öryggisstofnanir hefðu heldur ekki tekist að finna alhliða sniðgöngur. Kerfiskort fyrirtækisins lýsti því yfir að opinberu villuleitarverðlaunin hefðu fengið um 100.000 tilraunir frá og með 5. júní. Sem varúðarráðstöfun setti Anthropic á laggirnar 30 daga gagnageymslustefnu á allri umferð Fable 5 til að verjast nýjum árásum.B2B News Network Inc.+2

Kunnuglegt mynstur

Skyndilegt brotið fylgir mynstri sem hefur verið komið á fót í helstu gervigreindarútgáfum. Pliny hefur áður haldið því fram að hann hafi brotið Claude Opus 4.8 innan nokkurra mínútna frá útgáfu þess í lok maí, Claude Opus 4.7 í apríl og GPT-OSS líkön OpenAI á útgáfudegi þeirra í fyrra. Anthropic hefur ekki enn svarað opinberlega ásökunum um brot á Fable 5 eða leka á kerfisleiðbeiningunum.X (formerly Twitter)+3