OpenAI-ի GPT-6 Astra-ն ավելի քիչ հալյուցինացիաներ ունի, բայց դեռ խոցելի է թաքնված հարձակումների նկատմամբ

Սեպտեմբերի 3-ին թողարկված OpenAI-ի GPT-6 Astra-ն նշանավորում է փաստացի ճշգրտության և ուղղակի պրոմպտ-մանիպուլյացիաների նկատմամբ դիմադրողականության չափելի բարելավում՝ համեմատած իր նախորդի՝ GPT-5.6 Sol-ի հետ: Այնուամենայնիվ, անկախ անվտանգության թեստերը ցույց են տալիս, որ մոդելը դեռևս կարող է վտանգվել իր կողմից մշակվող փաստաթղթերում թաքնված հրահանգների միջոցով, ինչը բարդացնում է դրա կիրառումը ձեռնարկատիրական և գործակալային համակարգերում:

Հալյուցինացիաների և ուղղակի հարձակումների նվազում

Ըստ OpenAI-ի համակարգային քարտի՝ Astra-ն հայտնի փաստացի սխալներն ավելի հազվադեպ է վերարտադրում, քան GPT-5.6 Sol-ը, հատկապես ցածր լատենտության և տրամաբանության ցածր մակարդակներում: Ինչ վերաբերում է ուղղակի պրոմպտ-ներարկումներին, որտեղ օգտատերերը փորձում են մանիպուլյացիայի ենթարկել մոդելը սեփական մուտքային տվյալների միջոցով, Astra-ն հասնում է 99.99 տոկոս պաշտպանության մակարդակի: OpenAI-ն այս արդյունքը վերագրում է իր GPT-Red մեթոդին, որն օգտագործում է ավտոմատացված հարձակվող՝ մարզման ընթացքում մոդելը կոփելու համար:the-decoder+1

Ջեյլբրեյքի նկատմամբ դիմադրողականությունը հետևում է նմանատիպ օրինաչափության: Կենսաբանության, բռնության և կիբերանվտանգության ոլորտներում վնասակար պատասխաններ թիրախավորող հայտնի հարձակումների ֆիքսված տվյալների բազայի դեմ Astra-ն հրաժարվում է համագործակցել դեպքերի 91.5-ից 98.3 տոկոսում: Այնուամենայնիվ, երբ հակառակորդները հարմարեցնում են իրենց ռազմավարությունը բազմակի զրույցների ընթացքում, պաշտպանության մակարդակը նվազում է մինչև մոտ 67 տոկոս, ինչը նշանակում է, որ հետևողական հարձակվողները կարող են խնդրահարույց պատասխան ստանալ յուրաքանչյուր երեք փորձից մեկում: OpenAI-ը նշել է, որ այս թեստերն անցկացվել են «մերկ» մոդելի վրա՝ առանց սպառողական արտադրանքի հետ տրամադրվող անվտանգության շերտերի:the-decoder

Թաքնված պրոմպտ-ներարկումները մնում են մտահոգիչ

Ավելի հրատապ խոցելիությունը կայանում է անուղղակի պրոմպտ-ներարկումների մեջ, որտեղ վնասակար հրահանգները թաքնված են փաստաթղթերի կամ վեբ էջերի ներսում, որոնք մոդելը կարդում է: Gray Swan անվտանգության ընկերության կողմից իրականացված արտաքին թեստավորումը, օգտագործելով IPI Arena-ի 1,810 ընտրված հարձակումներ, պարզել է, որ Astra-ն կարող է կոտրվել 8.5 տոկոս դեպքերում, երբ տրվում է 15 փորձ: Սա նշանակալի բարելավում է GPT-5.6 Sol-ի 27 տոկոս ձախողման մակարդակի համեմատ, սակայն դեռևս նշանակում է, որ մոդելը կարող է խաբվել յուրաքանչյուր տասներկու դեպքից մեկում:the-decoder

Anthropic-ի Claude Opus 5-ը նույն թեստում ավելի լավ արդյունք է ցույց տվել՝ 4.8 տոկոս ձախողման մակարդակով, թեև այն նույնպես անխոցելի չէր:the-decoder

Ինչու է սա կարևոր AI գործակալների համար

Astra-ն OpenAI-ի առաջին մոդելն է, որը հասել է կիբերանվտանգության «կրիտիկական» շեմին ընկերության պատրաստվածության շրջանակներում, ինչը նշանակում է, որ այն կարող է առանց մարդու օգնության հայտնաբերել և օգտագործել zero-day խոցելիություններ կոփված համակարգերում: Այս կարողությունը, մոդելի վեբ-բրաուզինգի, համակարգչից օգտվելու և բազմաքայլ առաջադրանքներ ինքնավար կերպով կատարելու ունակության հետ մեկտեղ, անուղղակի պրոմպտ-ներարկումների խնդիրն ավելի էական է դարձնում, քան դա կլիներ պարզ չաթ-բոտի դեպքում:deploymentsafety.openai+2

Ինչպես նշել է The Decoder-ը, ցանկացած կորպորատիվ անվտանգության թիմի համար, որը դիտարկում է Astra-ն գործակալային տեղակայման համար, անուղղակի ներարկումների արդյունքները ցույց են տալիս, որ մոդելը դեռևս բավականաչափ հուսալի չէ այն միջավայրերի համար, որտեղ անվստահելի բովանդակությունը կարող է հասնել դրան:the-decoder