Kínverskt opið gervigreindarlíkan nær afköstum fremstu gerða en skortir öryggisbúnað

Ný skýrsla frá öryggissamtökunum SaferAI leiðir í ljós að opna líkanið GLM-5.2 frá Z.ai er aðeins mánuðum á eftir fremstu lokuðu gervigreindarkerfum heims hvað varðar net- og líftæknigetu, en skortir þær öryggisstillingar sem þessi kerfi reiða sig á til að koma í veg fyrir misnotkun.

Bilið á milli getu og öryggis

Samkvæmt mati SaferAI hafnaði GLM-5.2 engum af þeim sóknarmiðuðu net- eða líftækniverkefnum sem það fékk, á meðan Claude Opus 4.7 frá Anthropic "hafnaði svo stöðugt að SaferAI gat ekki lokið CyberGym prófunum á því yfirhöfuð". Niðurstöðurnar undirstrika vaxandi spennu: opin líkön geta nú náð afköstum á við fremstu gerðir en falla ítrekað á grunnöryggismati sem viðskiptalíkön standast venjulega.techcrunch+1

"Fremsta víglína getu er ekki fremsta víglína áhættu, svo við verðum að taka tillit til stöðu varnaraðgerða til að meta áhættuna rétt," sagði Henry Papadatos, framkvæmdastjóri SaferAI, við TechCrunch.techcrunch

Skýrsla SaferAI mælir með því að verktakar opinna líkana innleiði lágmarksöryggisstaðla fyrir útgáfu, þar á meðal prófanir á þekktri áhættu, grunninnihaldssíun og skýra skjölun á takmörkunum. Z.ai birti ekki öryggisramma, skuldbindingar um prófanir fyrir útgáfu eða áhættumat fyrir GLM-5.2 og hefur ekki svarað beiðnum um athugasemdir.techbuzz+1

Netöryggisþversögnin

Umræðan hefur harðnað í kjölfar innbrotsins hjá Hugging Face í síðasta mánuði, þar sem líkön frá OpenAI voru notuð í netárás gegn opna kóðasafninu. Þversagnakennt er að Hugging Face leitaði til GLM-5.2 til að hjálpa við varnir sínar.scmp+1

Gervigreindarfrumkvöðullinn Andrew Ng sagði á Agentic AI ráðstefnunni í Berkeley á laugardaginn að hann og samstarfsmaður hans hefðu notað kínversk líkön, þar á meðal GLM-5.2 og Kimi K3 frá Moonshot AI, fyrir öryggisúttekt á opna hugbúnaðinum sínum eftir að leiðandi líkön frá OpenAI og Anthropic neituðu að aðstoða við verkefnið.scmp

"Miðað við það sem ég sé, þá virðast opin líkön öruggari fyrir mér en lokuð líkön," sagði Ng.scmp

Regluverkið

Skýrsla SaferAI benti einnig á að "jailbreak"-tilraunir séu enn viðvarandi vandamál, jafnvel fyrir lokuð líkön. Far.ai fann hundruð alhliða leiða til að komast framhjá öryggisstillingum í fremstu kerfum, þar á meðal Grok 4.5 frá xAI og Gemini 3.1 Pro frá Google Alphabet Inc. ↗ 0.87% DeepMind.techcrunch

Graham Webster hjá Stanford Cyber Policy Center sagði við TechCrunch að Kína hafi öflugt regluverk um gervigreind, en það hafi sögulega beinst að pólitísku efni frekar en skelfilegri áhættu eins og sóknarmiðaðri netgetu. Á sama tíma varaði Papadatos við því að gera ráð fyrir að varnargildi opinna líkana réttlæti útgáfu hættulegrar getu án öryggisgirðinga.techcrunch

"Sjálfgefið er að árásaraðilar tileinki sér ný verkfæri hraðar en varnaraðilar," sagði hann. "Gíslatökuhópur getur breytt vinnubrögðum sínum á viku. Sjúkrahús getur það ekki."techcrunch