Kinijos atvirojo kodo DI modelis prilygsta pažangiausioms sistemoms, tačiau stokoja saugumo kontrolės

Nauja ne pelno siekiančios organizacijos SaferAI ataskaita rodo, kad Z.ai atvirojo kodo modelis GLM-5.2 tik keliais mėnesiais atsilieka nuo pasaulyje pirmaujančių uždarojo kodo DI sistemų pagal kibernetinius ir biologinius pajėgumus, tačiau jam trūksta saugumo kontrolės priemonių, kurios užtikrina šių sistemų apsaugą nuo piktnaudžiavimo.

Pajėgumų ir saugumo atskirtis

Pagal SaferAI vertinimą, GLM-5.2 atsisakė vykdyti visas jam pateiktas puolamąsias kibernetines ar dvejopos paskirties biologines užduotis, tuo tarpu Anthropic modelis Claude Opus 4.7 "atsisakydavo taip nuosekliai, kad SaferAI negalėjo užbaigti CyberGym testų". Šios išvados pabrėžia augančią įtampą: atvirojo kodo modeliai dabar gali prilygti pažangiausiems našumo rodikliams, tačiau nuolat neišlaiko pagrindinių saugumo vertinimų, kuriuos komerciniai modeliai įprastai įveikia.techcrunch+1

"Pajėgumų riba nėra rizikos riba, todėl turime atsižvelgti ir į rizikos mažinimo priemonių būklę, kad galėtume tinkamai įvertinti riziką," TechCrunch sakė SaferAI vykdomasis direktorius Henry Papadatos.techcrunch

SaferAI ataskaitoje rekomenduojama, kad atvirojo kodo kūrėjai prieš išleisdami modelius įdiegtų minimalius saugumo standartus, įskaitant testavimą dėl žinomų rizikų, pagrindinį turinio filtravimą ir aiškų apribojimų dokumentavimą. Z.ai nepaskelbė saugumo sistemos, įsipareigojimų dėl testavimo prieš diegimą ar rizikos vertinimo GLM-5.2 modeliui ir neatsakė į prašymus pakomentuoti.techbuzz+1

Kibernetinio saugumo paradoksas

Diskusijos suintensyvėjo po praėjusį mėnesį įvykusio Hugging Face saugumo pažeidimo, kurio metu OpenAI modeliai buvo panaudoti kibernetinei atakai prieš atvirojo kodo saugyklą. Paradoksalu, tačiau Hugging Face kreipėsi į GLM-5.2, kad padėtų apsiginti.scmp+1

DI pionierius Andrew Ng šeštadienį Berkeley mieste, Kalifornijoje, vykusiame Agentic AI viršūnių susitikime sakė, kad jis ir kolega naudojo kiniškus modelius, įskaitant GLM-5.2 ir Moonshot AI Kimi K3, savo atvirojo kodo įrankio saugumo peržiūrai po to, kai pirmaujantys OpenAI ir Anthropic modeliai atsisakė padėti atlikti šią užduotį.scmp

"Iš to, ką matau, manau, kad atvirojo kodo modeliai man atrodo saugesni nei uždarojo kodo modeliai," sakė Ng.scmp

Reguliavimo aplinka

SaferAI ataskaitoje taip pat pažymima, kad saugumo spragų išnaudojimas (jailbreak) išlieka nuolatine problema net ir uždarojo kodo modeliams. Far.ai rado šimtus universalių būdų apeiti saugumo ribojimus pažangiose sistemose, įskaitant xAI Grok 4.5 ir Google Alphabet Inc. ↗ 0.77% DeepMind Gemini 3.1 Pro.techcrunch

Graham Webster iš Stanfordo kibernetinės politikos centro TechCrunch sakė, kad Kinija turi griežtą DI reguliavimą, tačiau istoriškai jis buvo orientuotas į politiškai jautrų turinį, o ne į katastrofines rizikas, tokias kaip puolamieji kibernetiniai pajėgumai. Tuo tarpu Papadatos įspėjo nepasikliauti prielaida, kad atvirojo kodo modelių gynybinė vertė pateisina pavojingų pajėgumų išleidimą be apsaugos priemonių.techcrunch

"Pagal nutylėjimą užpuolikai naujus įrankius įsisavina greičiau nei gynėjai," sakė jis. "Išpirkos reikalaujanti grupė gali pakeisti savo metodus per savaitę. Ligoninė to padaryti negali."techcrunch