OpenAI-ի Բրոքմանը զգուշացնում է. Z.ai-ի GLM-5.3-ը կմեծացնի կիբերսպառնալիքները

Չինական Z.ai արհեստական բանականության լաբորատորիան օգոստոսի 14-ին հայտարարեց, որ երկու շաբաթով հետաձգում է իր GLM-5.3 մոդելի բաց կոդի թողարկումը, քանի որ համակարգը ծրագրային խոցելիություններ գտնելու և շահագործելու անսպասելիորեն հզոր կարողություններ է դրսևորել: Այս որոշումը գրավել է OpenAI-ի նախագահ Գրեգ Բրոքմանի ուշադրությունը, ով զգուշացրել է, որ մոդելը, ամենայն հավանականությամբ, «զգալիորեն կարագացնի սպառնալիքների դինամիկան»:buttondown+2

Մոդել, որն անակնկալի բերեց իր ստեղծողներին

Z.ai-ն հայտնել է, որ GLM-5.3-ը կառուցվել է իր նախորդի՝ GLM-5.2-ի նույն հիմնարար ճարտարապետության վրա, և արդյունավետության բոլոր բարելավումները ստացվել են հետուսուցման կատարելագործումների, այլ ոչ թե ամբողջական վերապատրաստման արդյունքում: Ընկերությունն ավելացրել էր խոցելիության վերաբերյալ տվյալներ՝ ակնկալելով սխալների ավելի լավ հայտնաբերում, սակայն դրա փոխարեն ականատես է եղել, թե ինչպես է մոդելը ստեղծում բազմափուլ շահագործման շղթաներ, ինչն իրենց ծրագրերի մեջ չէր մտնում: CyberGym ներքին թեստավորման հարթակում GLM-5.3-ը հայտնաբերել է ծրագրային ապահովման հայտնի թերությունները 84.5% ցուցանիշով՝ նախորդ մոդելի 77.2%-ի համեմատ, միևնույն ժամանակ ավելի քան կրկնապատկելով շահագործման իր միավորը:instagram+2

Z.ai-ի փոխանցմամբ՝ GLM մոդելներն արդեն հայտնաբերել են ավելի քան 2400 անվտանգության թերություններ, այդ թվում՝ ավելի քան 1000 կրիտիկական կամ բարձր վտանգավորության աստիճանի խոցելիություններ, որոնցից մի քանիսը հայտնաբերվել են Linux-ի միջուկում, ինչպես նաև լայնորեն կիրառվող VMware Broadcom Inc. ↘ 2.05% և Apache նախագծերում: Ընկերությունն առաջարկում է փուլային հասանելիություն անվտանգության ոլորտի ընտրված գործընկերներին վերահսկելի միջավայրում, մինչդեռ ավելի լայն API հասանելիությունը և ներբեռնվող կոդը կսպասեն մինչև անվտանգության գնահատման ավարտը:instagram+2

Տագնապ ոլորտում

Բրոքմանը, արձագանքելով վերջերս OpenAI-ի և Hugging Face-ի վրա կատարված կիբերհարձակմանը, կոչ է արել ընկերություններին անհապաղ գործել: Նա այս պահը որակել է որպես «վճռորոշ» կիբերանվտանգության համար և մատնանշել GLM-5.3-ի բաց կոդը, որի թողարկումը նախատեսված է օգոստոսի վերջին, որպես մոտակա ժամանակահատվածի սպառնալիքների սրացում: Նա խորհուրդ է տվել անվտանգության թիմերին ներդնել արհեստական բանականության գործակալական գործիքներ, որոնք ունեն հաստատված հասանելիություն կոդերի բազաներին և ենթակառուցվածքներին՝ սկսելով ամենաբարձր առաջնահերթություն ունեցող համակարգերից:artificialintelligence-news+1

Այս նախազգուշացումը համահունչ է OpenAI-ի գործադիր տնօրեն Սեմ Ալթմանի և Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեյի մտահոգություններին, որոնք երկուսն էլ մատնանշել են իրենց առաջատար մոդելների կիբերհնարավորությունները որպես աճող ռիսկ:timesnownews

Բաց կոդ, բաց հարցեր

Z.ai-ն հետաձգումը ներկայացրել է որպես պատասխանատու բացահայտում՝ պնդելով, որ «բաց աշխարհը չի կարող ունենալ միայն բաց հարձակման մակերեսներ», այլ պետք է ունենա նաև «բաց վահան»: Այնուամենայնիվ, մինչ այժմ վկայակոչված թեստավորման բոլոր տվյալները ստացվել են հենց Z.ai-ից. քանի որ կոդը դեռ չի հրապարակվել, ոչ մի անկախ հետազոտող չի կարողացել վերարտադրել այդ արդյունքները: Մոդելի հանրային թողարկումը, որն այժմ նախատեսված է օգոստոսի 28-ին, ցույց կտա, թե որքանով են հիմնավորված այդ պնդումները, և արդյոք պաշտպանվող կողմը կկարողանա համընթաց քայլել այն հնարավորությունների հետ, որոնք բացում է այս մոդելը:remio+2