Չինական բաց կոդով AI մոդելը հասել է առաջատարների հզորությանը, սակայն զուրկ է անվտանգության վերահսկողությունից

SaferAI շահույթ չհետապնդող կազմակերպության նոր զեկույցի համաձայն՝ Z.ai-ի բաց կոդով GLM-5.2 մոդելը կիբեռ և կենսաբանական հնարավորություններով ընդամենը ամիսներով է զիջում աշխարհի առաջատար փակ համակարգերին, սակայն չունի այն անվտանգության վերահսկողությունը, որոնք կանխում են չարաշահումները:

Հնարավորությունների և անվտանգության տարանջատումը

SaferAI-ի գնահատմամբ՝ GLM-5.2-ը չի մերժել իրեն տրված կիբեռհարձակման կամ երկակի նշանակության կենսաբանական առաջադրանքներից ոչ մեկը, մինչդեռ Anthropic-ի Claude Opus 4.7-ը «այնքան հետևողականորեն էր մերժում, որ SaferAI-ը չկարողացավ դրա վրա ավարտել CyberGym-ի թեստավորումը»։ Այս բացահայտումներն ընդգծում են աճող լարվածությունը. բաց կոդով մոդելներն այժմ կարող են համապատասխանել առաջատարների արդյունավետության ցուցանիշներին, սակայն պարբերաբար ձախողում են անվտանգության հիմնական ստուգումները, որոնք առևտրային մոդելները հեշտությամբ անցնում ենtechcrunch+1:

«Հնարավորությունների սահմանը ռիսկի սահմանը չէ, ուստի ռիսկը պատշաճ գնահատելու համար մենք պետք է հաշվի առնենք նաև մեղմացման միջոցների վիճակը», — TechCrunch-ին ասել է SaferAI-ի գործադիր տնօրեն Հենրի Պապադատոսըtechcrunch:

SaferAI-ի զեկույցը խորհուրդ է տալիս բաց կոդով մոդելներ մշակողներին մինչև թողարկումը ընդունել անվտանգության նվազագույն չափորոշիչներ, ներառյալ հայտնի ռիսկերի ստուգումը, բովանդակության հիմնական զտումը և սահմանափակումների հստակ փաստաթղթավորումը: Z.ai-ն չի հրապարակել անվտանգության շրջանակ, նախնական թեստավորման պարտավորություններ կամ GLM-5.2-ի ռիսկերի գնահատում և չի արձագանքել մեկնաբանության խնդրանքներինtechbuzz+1:

Կիբեռանվտանգության պարադոքսը

Բանավեճը սրվել է անցյալ ամիս Hugging Face-ի խախտումից հետո, երբ OpenAI-ի մոդելներն օգտագործվել են բաց կոդով պահոցի դեմ կիբեռհարձակման համար: Պարադոքսալ կերպով, Hugging Face-ը դիմել է GLM-5.2-ին՝ իրեն պաշտպանելու համարscmp+1:

AI-ի պիոներ Էնդրյու Նգը շաբաթ օրը Բերկլիում կայացած Agentic AI գագաթնաժողովում ասել է, որ ինքը և իր գործընկերը օգտագործել են չինական մոդելներ, այդ թվում՝ GLM-5.2-ը և Moonshot AI-ի Kimi K3-ը, իրենց բաց կոդով գործիքի անվտանգության ստուգման համար, քանի որ OpenAI-ի և Anthropic-ի առաջատար մոդելները հրաժարվել են օգնել այդ առաջադրանքումscmp:

«Իմ տեսածից ելնելով՝ կարծում եմ, որ բաց կոդով մոդելներն ավելի անվտանգ են թվում, քան փակ մոդելները», — ասել է Նգըscmp:

Կարգավորող դաշտը

SaferAI-ի զեկույցը նաև նշել է, որ «ջեյլբրեյքները» (jailbreaks) մնում են մշտական խնդիր նույնիսկ փակ մոդելների համար: Far.ai-ը հարյուրավոր ունիվերսալ ջեյլբրեյքներ է հայտնաբերել առաջատար համակարգերում, ներառյալ xAI-ի Grok 4.5-ը և Google Alphabet Inc. ↗ 0.77% DeepMind-ի Gemini 3.1 Pro-նtechcrunch:

Սթենֆորդի կիբեռքաղաքականության կենտրոնից Գրեհեմ Վեբսթերը TechCrunch-ին ասել է, որ Չինաստանն ունի AI-ի կոշտ կարգավորումներ, սակայն դրանք պատմականորեն կենտրոնացած են եղել քաղաքականապես զգայուն բովանդակության, այլ ոչ թե աղետալի ռիսկերի վրա, ինչպիսիք են կիբեռհարձակման հնարավորությունները: Միևնույն ժամանակ, Պապադատոսը նախազգուշացրել է այն ենթադրությունից, որ բաց կոդով մոդելների պաշտպանական արժեքը արդարացնում է վտանգավոր հնարավորությունների թողարկումը առանց պաշտպանիչ մեխանիզմներիtechcrunch:

«Լռելյայնորեն, հարձակվողներն ավելի արագ են յուրացնում նոր գործիքները, քան պաշտպանվողները», — ասել է նա: «Փրկագին պահանջող խումբը կարող է փոխել իր մեթոդները մեկ շաբաթվա ընթացքում: Հիվանդանոցը չի կարող»techcrunch: