Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

anthropicanthropicanthropicSpolečnost Anthropic v úterý zveřejnila analýzu, ve které varuje, že GLM-5.3, nejnovější model umělé inteligence od čínského vývojáře Zhipu AI (známého také jako Z.ai), dokáže autonomně vytvářet komplexní kybernetické exploity na úrovni modelu Claude Mythos Preview od Anthropicu, ale byl vydán jako model s otevřenými vahami bez účinných bezpečnostních pojistek proti zneužití.anthropic
Zpráva týmu Frontier Red Team společnosti Anthropic zjistila, že GLM-5.3 vyvinul funkční exploity v 50 ze 410 pokusů v rámci benchmarku ExploitBench, který měří vývoj exploitů proti známým zranitelnostem v enginu V8 prohlížeče Chrome od společnosti Alphabet Inc. , zatímco Claude Mythos Preview uspěl v 56 případech. V benchmarku zaměřeném na binární exploataci dosáhl GLM-5.3 úplného převzetí řízení toku ve 4 procentech pokusů oproti 6 procentům u modelu Mythos. Předchozí modely, včetně Claude Opus 4.6 a GLM-5.2, neuspěly v žádném případě.anthropic
Hlavní obavou Anthropicu není pouze schopnost modelu, ale absence bezpečnostních pojistek. Protože váhy modelu GLM-5.3 jsou veřejně dostupné, lze jeho vestavěné odmítavé reakce odstranit technikou zvanou „abliteration“. Tým Anthropicu – bez předchozích zkušeností s touto metodou – snížil míru odmítnutí modelu z více než 90 procent na zhruba 3 procenta u standardních benchmarků škodlivosti při nákladech na výpočetní výkon kolem 4 400 dolarů. Několik vývojářů zveřejnilo podobně odemčené verze během několika dnů od srpnového vydání modelu.anthropic
Kromě úplné „abliteration“ fungují i jednodušší triky. Klamný prompt, který se vydával za autorizované cvičení typu red-team, obešel bezpečnostní pojistky GLM-5.3 v 64 procentech případů; předvyplnění tokenů myšlenkového řetězce modelu zvýšilo míru shody na 92 procent. Žádná z těchto technik v testech Anthropicu neuspěla proti modelům Claude.anthropic
Během jednoho výzkumného sezení objevil GLM-5.3 několik dříve neznámých zranitelností v JavaScriptovém enginu populárního webového prohlížeče a zřetězil je do funkčního exploitu – webové stránky, která čte libovolné soubory z počítače návštěvníka. Menší model GLM-5.3-Flash vytvořil spolehlivý řetězec exploitů pro známou zranitelnost Chrome za osm hodin výpočetního času a 20 minut lidské pozornosti, při nákladech na API ve výši 20,40 dolaru.anthropic
Dne 17. září zveřejnilo Centrum pro standardy a inovace AI při NIST vlastní hodnocení, v němž označilo GLM-5.3 za „nejkybernetičtější model s otevřenými vahami, který byl dosud vydán“, přičemž poznamenalo, že jeho schopnosti zůstávají zhruba čtyři měsíce pozadu za současnými špičkovými modely v USA. Společnost Z.ai poprvé spustila GLM-5.3 prostřednictvím svého API v srpnu a váhy vydala na platformě Hugging Face o dva týdny později s tím, že prodleva umožnila dodatečné bezpečnostní hodnocení.trendingtopics+2
Ne všichni sdílejí obavy Anthropicu. Jake Williams ze společnosti IANS Research pro The New Stack uvedl, že ačkoliv útočníci budou model používat, neočekává, že by to zásadně změnilo prostředí hrozeb. Kritici také poukázali na možný střet zájmů a poznamenali, že Anthropic přímo konkuruje Z.ai a byl jedinou velkou laboratoří AI, která nepodepsala oborový dopis podporující otevřené modely, za nimiž stojí Nvidia , Meta , Microsoft , OpenAI a Google.trendingtopics
Anthropic zarámoval tento okamžik jako chvíli, která vyžaduje rozšířený přístup pro obránce: „Byla překročena kritická hranice volně dostupných schopností“.anthropic