Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

anthropicanthropicanthropicAnthropic publicerade på tisdagen en analys som varnar för att GLM-5.3, den senaste AI-modellen från den kinesiska utvecklaren Zhipu AI (även känd som Z.ai), autonomt kan bygga kompletta cyberattacker i nivå med Anthropics egen Claude Mythos Preview, men att den släppts som en modell med öppna vikter utan effektiva skydd mot missbruk.anthropic
Rapporten från Anthropics Frontier Red Team visar att GLM-5.3 utvecklade fungerande attacker i 50 av 410 försök på ExploitBench, ett testverktyg som mäter sårbarhetsutnyttjande mot kända fel i Chrome-motorn V8 från Alphabet Inc. , jämfört med 56 för Claude Mythos Preview. I ett test för binär exploatering uppnådde GLM-5.3 full kontroll över kontrollflödet i 4 procent av försöken, mot 6 procent för Mythos. Tidigare modeller, inklusive Claude Opus 4.6 och GLM-5.2, lyckades inte i något fall.anthropic
Anthropics främsta oro är inte bara kapaciteten utan avsaknaden av skyddsmekanismer. Eftersom vikterna för GLM-5.3 är offentligt tillgängliga kan de inbyggda avvisningsreglerna tas bort genom en teknik som kallas "abliteration". Anthropics team, utan tidigare erfarenhet av metoden, sänkte modellens avvisningsfrekvens från över 90 procent till cirka 3 procent på standardtester för skadligt innehåll till en kostnad av omkring 4 400 dollar i beräkningskraft. Flera utvecklare publicerade liknande upplåsta versioner bara dagar efter modellens lansering i augusti.anthropic
Utöver fullständig borttagning av skydd fungerar även enklare knep. En vilseledande instruktion som utgav sig för att vara en auktoriserad säkerhetstest kringgick GLM-5.3:s skydd 64 procent av gångerna; förhandsifyllning av modellens tankeprocess-tokens ökade följsamheten till 92 procent. Ingen av dessa tekniker lyckades mot Claude-modellerna i Anthropics tester.anthropic
I en forskarledd session upptäckte GLM-5.3 flera tidigare okända sårbarheter i en populär webbläsares JavaScript-motor och kedjade ihop dem till en fungerande attack: en webbsida som läser godtyckliga filer från en besökares dator. Den mindre GLM-5.3-Flash byggde en pålitlig attackkedja för en känd Chrome-sårbarhet på åtta timmars beräkningskraft och 20 minuters mänsklig insats, till en API-kostnad på 20,40 dollar.anthropic
Den 17 september publicerade NIST:s Center for AI Standards and Innovation sin egen utvärdering, där de kallade GLM-5.3 "den mest cyberkapabla modellen med öppna vikter som släppts hittills", samtidigt som de noterade att dess kapacitet fortfarande ligger cirka fyra månader efter nuvarande amerikanska toppmodeller. Z.ai lanserade först GLM-5.3 via sitt API i augusti och släppte vikterna på Hugging Face två veckor senare, med motiveringen att fördröjningen gav utrymme för ytterligare säkerhetsutvärderingar.trendingtopics+2
Alla delar inte Anthropics oro. Jake Williams från IANS Research sade till The New Stack att även om hotaktörer kommer att använda modellen, förväntar han sig inte att den nämnvärt förändrar hotbilden. Kritiker har också pekat på en potentiell intressekonflikt och noterat att Anthropic konkurrerar direkt med Z.ai och var det enda stora AI-laboratoriet som inte undertecknade ett branschupprop till stöd för öppna modeller backade av Nvidia , Meta , Microsoft , OpenAI och Google.trendingtopics
Anthropic beskrev situationen som en tidpunkt som kräver utökad tillgång för försvarare: "En kritisk tröskel för fritt tillgängliga kapaciteter har nu passerats".anthropic