Five Eyes varnar för att Kinas AI-modell med öppen källkod utgör ett cyberhot

En AI-modell i framkant som släppts av det kinesiska laboratoriet Z.ai (tidigare Zhipu AI) väcker ny oro för cybersäkerhet bland underrättelsetjänstemän och säkerhetsforskare, som varnar för att system med öppen källkod som är nästan lika kapabla som de mest avancerade kommersiella modellerna redan utnyttjas av motståndare utan skyddsmekanismer.

Ett kodningskraftpaket under MIT-licens

GLM-5.2, en Mixture-of-Experts-modell med 744 miljarder parametrar och 39 till 40 miljarder aktiva parametrar per token, gjordes först tillgänglig för Z.ai-abonnenter den 13 juni och släpptes som öppen källkod under MIT-licens veckan efter. Modellen har ett kontextfönster på en miljon tokens och är byggd specifikt för långsiktiga kodningsuppgifter och agentbaserade arbetsflöden. På benchmarks som FrontierSWE får den 74,4 %, bara en poäng efter Anthropics Claude Opus 4.8, vilket gör den till den högst rankade modellen med öppen källkod på flera oberoende topplistor.IT Brief Asia+5

Den 24 juni tillkännagav Featherless.ai ett partnerskap med Z.ai för att hosta GLM-5.2 globalt genom ett OpenAI-kompatibelt API, som erbjuder FP8-inferens med upp till 256 000 tokens i det publika molnet och hela fönstret på en miljon tokens i privata distributioner.featherless+1

Säkerhetsforskare slår larm

Släppet av modellen har utlöst varningar från underrättelsealliansen Five Eyes – USA, Storbritannien, Kanada, Australien och Nya Zeeland – om att världen kan vara bara månader ifrån att AI-modeller dramatiskt påskyndar cyberhot. Enligt Axios fruktar ledarna i alliansen att Kina kan använda kraftfull AI för övervakning, cyberoperationer och militärt beslutsfattande.axios+1

Dan Schiappa, VD för teknik och tjänster på Arctic Wolf, berättade för CNBC den 25 juni att motståndare redan använder AI-modeller med öppen källkod som är "nästan lika effektiva som Mythos" – Anthropics mest avancerade system – men utan de skyddsåtgärder som kommersiella plattformar tillämpar. Uppskattningar från säkerhetsföretagen Graphistry och Semgrep tyder på att GLM-5.2 presterar i nivå med ledande modeller från OpenAI och Anthropic när det gäller sårbarhetsdetektering och analys av cyberhot, till ungefär halva kostnaden.UNN+1

Diskussioner på ryskspråkiga forum om att kringgå GLM-5.2:s säkerhetsinställningar har redan dykt upp, enligt den ukrainska nyhetssajten UNN, som citerar Axios rapportering. Till skillnad från kommersiella tjänster ger modeller med öppen källkod praktiskt taget ingen möjlighet att kontrollera användningen i efterhand när väl vikterna har släppts.UNN

Dilemmat med öppen källkod

Spänningarna kring GLM-5.2 återspeglar en bredare debatt som påskyndades av den amerikanska regeringens beslut att stoppa Anthropics Claude Fable 5 den 13 juni – samma dag som Z.ai-grundaren Jie Tang tillkännagav GLM-5.2 med ett skarpt uttalande om att "intelligens i framkant tillhör alla". En säkerhetsforskare inom öppen källkod berättade för Axios att begränsad tillgång till banbrytande amerikanska system kan lämna försvarare med färre sätt att förutse framväxande hot, även när kinesiska alternativ blir fritt tillgängliga över hela världen.X (formerly Twitter)+2