OpenAI-topp advarer: Z.ais GLM-5.3 vil øke cybertruslene

Det kinesiske AI-laboratoriet Z.ai kunngjorde 14. august at de utsetter lanseringen av de åpne vektene til sin GLM-5.3-modell i to uker, etter at systemet viste uventet sterke evner til å finne og utnytte sårbarheter i programvare. Beslutningen har vekket oppsikt hos OpenAI-president Greg Brockman, som advarer om at modellen sannsynligvis vil "akselerere trusselbildet betydelig".buttondown+2

En modell som overrasket sine skapere

Z.ai opplyser at GLM-5.3 ble bygget på samme grunnmursarkitektur som forgjengeren GLM-5.2, og at alle ytelsesforbedringer kommer fra ettertrening (post-training) i stedet for en fullstendig ny opplæring. Selskapet la til sårbarhetsdata i håp om bedre feilsøking, men oppdaget i stedet at modellen genererte flertrinns angrepskjeder som de sier de aldri hadde planlagt for. På CyberGym, en intern testplattform, fant GLM-5.3 kjente programvarefeil med en rate på 84,5 prosent, opp fra 77,2 prosent for den forrige modellen, samtidig som den mer enn doblet poengsummen for utnyttelse av sårbarheter.instagram+2

Z.ai opplyser at GLM-modellene allerede har identifisert mer enn 2400 sikkerhetsfeil, inkludert over 1000 som er vurdert som kritiske eller svært alvorlige. Noen av disse ble funnet i Linux-kjernen og i mye brukte prosjekter fra VMware Broadcom Inc. ↗ 1.21% og Apache. Selskapet tilbyr nå gradert tilgang til utvalgte sikkerhetspartnere i kontrollerte omgivelser, mens bredere API-tilgang og nedlastbare vekter må vente til sikkerhetsevalueringen er fullført.instagram+2

Alarm i bransjen

Brockman, som skriver i kjølvannet av et cyberangrep som nylig rammet OpenAI og Hugging Face, oppfordrer selskaper til å handle umiddelbart. Han beskriver øyeblikket som "avgjørende" for cybersikkerhet og peker på GLM-5.3s åpne vekter, som etter planen skal slippes i slutten av august, som en opptrapping på kort sikt. Han råder sikkerhetsteam til å ta i bruk agentbaserte AI-verktøy med godkjent tilgang til kodebaser og infrastruktur, og starte med systemene som har høyest prioritet.artificialintelligence-news+1

Advarselen gjenspeiler bekymringer som tidligere er reist av OpenAI-sjef Sam Altman og Anthropic-sjef Dario Amodei, som begge har pekt på cyberkapasiteten til sine egne ledende modeller som en voksende risiko.timesnownews

Åpne vekter, åpne spørsmål

Z.ai har fremstilt utsettelsen som en ansvarlig offentliggjøring, og argumenterer med at "en åpen verden kan ikke bare ha åpne angrepsflater", men må også ha "et åpent skjold". Likevel stammer alle testresultater som hittil er oppgitt, fra Z.ai selv. Siden vektene ikke er frigitt, har ingen uavhengige forskere kunnet gjenskape resultatene. Modellens offentlige lansering, som nå er planlagt til 28. august, vil vise om påstandene holder vann, og om forsvarerne klarer å holde tritt med det modellen muliggjør.remio+2