OpenAI-chef varnar: Z.ais GLM-5.3 kommer att trappa upp cyberhoten

Det kinesiska AI-laboratoriet Z.ai meddelade den 14 augusti att man skjuter upp lanseringen av de öppna vikterna för sin GLM-5.3-modell i två veckor, efter att systemet visat oväntat stark förmåga att hitta och utnyttja sårbarheter i programvara. Beslutet har väckt uppmärksamhet från OpenAI:s president Greg Brockman, som varnar för att modellen sannolikt kommer att "avsevärt påskynda hotbilden".buttondown+2

En modell som överraskade sina skapare

Z.ai uppger att GLM-5.3 byggdes på samma grundarkitektur som föregångaren GLM-5.2, och att alla prestandavinster kommer från förbättringar efter träningen (post-training) snarare än en helt ny träning. Företaget lade till sårbarhetsdata i hopp om att förbättra felsökningen, men upptäckte i stället att modellen skapade flerstegs exploateringskedjor (exploit chains) som man enligt egen utsago aldrig hade planerat för. På CyberGym, en intern testplattform, hittade GLM-5.3 kända programvarufel till 84,5 procent, jämfört med 77,2 procent för den tidigare modellen, samtidigt som den mer än fördubblade sitt resultat för exploatering.instagram+2

Z.ai uppger att GLM-modellerna redan har identifierat mer än 2 400 säkerhetsbrister, inklusive över 1 000 som klassas som kritiska eller mycket allvarliga. Vissa av dessa hittades i Linux-kärnan och i allmänt använda projekt från VMware Broadcom Inc. ↗ 1.21% och Apache. Företaget erbjuder nu stegvis tillgång till utvalda säkerhetspartners i kontrollerade miljöer, medan bredare API-åtkomst och nedladdningsbara vikter dröjer tills säkerhetsutvärderingen är klar.instagram+2

Oro i branschen

Brockman, som skriver i spåren av en cyberattack som nylig drabbade OpenAI och Hugging Face, uppmanar företag att agera omedelbart. Han beskriver ögonblicket som "avgörande" för cybersäkerheten och pekar på GLM-5.3:s öppna vikter, som planeras att släppas i slutet av augusti, som en upptrappning på kort sikt. Han råder säkerhetsteam att använda agentbaserade AI-verktyg med godkänd tillgång till kodbaser och infrastruktur, med början i de system som har högst prioritet.artificialintelligence-news+1

Varningen speglar den oro som tidigare uttryckts av OpenAI:s vd Sam Altman och Anthropics vd Dario Amodei, som båda har pekat på cyberförmågan hos sina egna ledande modeller som en växande risk.timesnownews

Öppna vikter, öppna frågor

Z.ai har beskrivit fördröjningen som ett ansvarsfullt offentliggörande och menar att "en öppen värld kan inte bara ha öppna attackytor" utan måste också ha "en öppen sköld". Samtidigt kommer alla testsiffror som hittills har presenterats från Z.ai självt. Eftersom vikterna inte har släppts har ingen oberoende forskare kunnat återskapa resultaten. Modellens offentliga lansering, som nu är planerad till den 28 augusti, kommer att visa om påståendena stämmer – och om försvararna kan hålla jämna steg med vad modellen möjliggör.remio+2