„OpenAI“ prezidentas G. Brockmanas įspėja: „Z.ai“ modelis „GLM-5.3“ padidins kibernetines grėsmes

Kinijos dirbtinio intelekto laboratorija „Z.ai“ rugpjūčio 14 d. pranešė dviem savaitėms atidedanti savo modelio „GLM-5.3“ atvirųjų svorių išleidimą, sistemai pademonstravus netikėtai stiprius gebėjimus rasti ir išnaudoti programinės įrangos pažeidžiamumus. Šis sprendimas patraukė „OpenAI“ prezidento Grego Brockmano dėmesį, kuris įspėjo, kad modelis tikriausiai „reikšmingai paspartins grėsmių aplinkos augimą“.buttondown+2

Kūrėjus nustebinęs modelis

„Z.ai“ teigimu, „GLM-5.3“ buvo sukurtas naudojant tą pačią bazinę architektūrą kaip ir jo pirmtakas „GLM-5.2“, o visi našumo patobulinimai buvo pasiekti koreguojant modelį po pradinio apmokymo, o ne jį visiškai permokant. Bendrovė papildė duomenų rinkinį informacija apie pažeidžiamumus, tikėdamasi geresnio klaidų aptikimo, tačiau vietoj to pastebėjo, kad modelis kuria daugiapakopes išnaudojimo grandines, kurių kūrėjai teigia neplanavę. Vidiniame „CyberGym“ teste „GLM-5.3“ aptiko 84,5 % žinomų programinės įrangos klaidų (ankstesnio modelio rodiklis siekė 77,2 %) ir daugiau nei dvigubai pagerino savo pažeidžiamumų išnaudojimo balą.instagram+2

„Z.ai“ nurodė, kad GLM modeliai jau nustatė daugiau nei 2 400 saugumo spragų, iš kurių per 1 000 yra vertinamos kaip kritinės arba labai pavojingos. Kai kurios iš jų buvo rastos „Linux“ branduolyje bei plačiai naudojamuose „VMware Broadcom Inc.“ ↗ 1.21% ir „Apache“ projektuose. Bendrovė siūlo pakopinę prieigą atrinktiems saugumo partneriams kontroliuojamoje aplinkoje, o platesnė API prieiga ir atsisiunčiami svoriai bus prieinami tik užbaigus saugumo vertinimą.instagram+2

Sektoriaus nerimas

G. Brockmanas, rašydamas po neseniai „OpenAI“ ir „Hugging Face“ sukrėtusios kibernetinės atakos, paragino įmones veikti nedelsiant. Šį momentą jis pavadino „lemiamu“ kibernetiniam saugumui ir nurodė, kad „GLM-5.3“ atvirieji svoriai, kuriuos planuojama išleisti rugpjūčio pabaigoje, kelia tiesioginę grėsmę. Jis patarė saugumo komandoms pradėti naudoti agentinius DI įrankius su patvirtinta prieiga prie kodų bazių ir infrastruktūros, pradedant nuo didžiausio prioriteto sistemų.artificialintelligence-news+1

Šis įspėjimas atkartoja „OpenAI“ vadovo Samo Altmano ir „Anthropic“ vadovo Dario Amodei išreikštą susirūpinimą: abu jie yra įvardiję savo pažangiausių modelių kibernetinius gebėjimus kaip augančią riziką.timesnownews

Atviri svoriai, atviri klausimai

„Z.ai“ šį atidėjimą pateikė kaip atsakingą informacijos atskleidimą, teigdama, kad „atviras pasaulis negali turėti tik atvirų puolimo zonų“, jame taip pat turi būti „atviras skydas“. Vis dėlto visi iki šiol pateikti testavimo rezultatai yra gauti iš pačios „Z.ai“. Kadangi svoriai dar neišleisti, jokie nepriklausomi tyrėjai šių rezultatų atkurti negalėjo. Viešas modelio išleidimas, dabar numatytas rugpjūčio 28 d., parodys, ar šie teiginiai pasitvirtins ir ar gynėjai sugebės neatsilikti nuo to, ką šis modelis leidžia padaryti.remio+2