Մեծ Բրիտանիայի գործակալությունը պարզել է, որ jailbreak-ները բացել են GPT-5.6-ի կիբերհնարավորությունները մինչ OpenAI-ի գործարկումը

Մեծ Բրիտանիայի AI անվտանգության ինստիտուտը (UK AISI) OpenAI-ի GPT-5.6 Sol-ում հայտնաբերել է «ունիվերսալ jailbreak-ներ», որոնք բացել են հարձակողական կիբերհնարավորություններ, ասվում է մոդելի համակարգային քարտում:deploymentsafety.openai+1
OpenAI-ը հայտնում է, որ մինչ հինգշաբթի օրը մոդելի լայնածավալ գործարկումը, նրանք վերացրել են կոնկրետ jailbreak-ները՝ ավելի քան 700,000 GPU ժամ հատկացնելով ավտոմատացված red-teaming-ին:deploymentsafety.openai+1
Քննադատները հարց են բարձրացնում, թե ինչու GPT-5.6-ը լայնորեն գործարկվեց, մինչդեռ Anthropic-ի Fable 5-ում նմանատիպ թերությունը անցյալ ամիս հանգեցրել էր ԱՄՆ-ի արտահանման վերահսկողության պատճառով դրա անջատմանը:nile1+1

Մեծ Բրիտանիայի AI անվտանգության ինստիտուտի (UK AISI) կողմից հուլիսի 9-ին հրապարակված մոդելի համակարգային քարտի համաձայն՝ ինստիտուտը OpenAI-ի GPT-5.6 Sol-ում հայտնաբերել է «ունիվերսալ jailbreak-ներ», որոնք բացել են վտանգավոր կիբերհնարավորություններ։ Այս բացահայտումը հարցեր է առաջացնում այն մասին, թե ինչու մոդելը ստացավ լայն հանրային գործարկում այս շաբաթ, մինչդեռ Anthropic-ի Fable 5-ում նմանատիպ խոցելիությունը ընդամենը մի քանի շաբաթ առաջ հանգեցրել էր ԱՄՆ-ի արտահանման վերահսկողության միջոցառումների:deploymentsafety.openai+1

Ինչ է հայտնաբերել UK AISI-ն

Նախնական տեղակայման թեստավորման ժամանակ UK AISI-ն կիբեր ոլորտում հայտնաբերել է jailbreak-ներ, որոնք «թույլ են տվել լիարժեք կատարել գործակալային առաջադրանքներ» այնպիսի ոլորտներում, ինչպիսիք են խոցելիության հայտնաբերումը և էքսպլոիտների մշակումը։ Գործակալությունը պարզել է, որ GPT-5.6 Sol-ը հարձակողական անվտանգության առաջադրանքներում զգալիորեն ավելի լավ է աշխատել, քան իր նախորդը՝ ավարտելով 10 երկարաժամկետ կիբեր-մարտահրավերներից 7-ը, մինչդեռ GPT-5.5-ը ավարտել էր միայն 2-ը։ UK AISI-ն եզրակացրել է, որ մոդելը կարող է ունակ լինել հարձակվելու թույլ անվտանգություն ունեցող փոքր ձեռնարկությունների ցանցերի վրա:deploymentsafety.openai+2

OpenAI-ը հայտարարել է, որ մինչ գործարկումը վերարտադրել և վերացրել է UK AISI-ի կողմից հաղորդված կոնկրետ jailbreak-ները՝ ավելի քան 700,000 A100e GPU ժամ հատկացնելով ունիվերսալ jailbreak-ների ավտոմատացված red-teaming-ին։ Ընկերությունը իր համակարգային քարտում ընդունել է, որ հավանաբար ապագայում ևս կհայտնվեն նոր jailbreak-ներ և խոստացել է շարունակել ավտոմատացված red-teaming-ը տեղակայման ընթացքում:deploymentsafety.openai+2

Զուգահեռներ Anthropic-ի Fable 5-ի հետ

Այս բացահայտումը ուղղակի զուգահեռներ է անցկացնում այն ճգնաժամի հետ, որը անցյալ ամիս պատուհասեց Anthropic-ին։ Հունիսի 12-ին ԱՄՆ Առևտրի նախարարությունը Anthropic-ին հրամայել էր գլոբալ մասշտաբով անջատել իր Fable 5 և Mythos 5 մոդելները այն բանից հետո, երբ տեղեկություններ տարածվեցին, որ jailbreak-ը կարող է Fable 5-ում բացել կիբերանվտանգության առաջադեմ հնարավորություններ՝ սպառողական AI արտադրանքը փաստացի վերածելով հարձակողական գործիքի։ Ըստ տեղեկությունների, Amazon Amazon.com, Inc. -ի հետազոտողները օգտագործել են Fable 5-ը այնպիսի տեղեկատվություն հավաքելու համար, որը կարող է նպաստել կիբերհարձակումներին, ինչը Առևտրի նախարար Հովարդ Լաթնիկին ստիպել է կիրառել արտահանման վերահսկողության լիազորությունները:forbes+1

Այդ վերահսկողությունը հանվել է հունիսի 30-ին՝ այն բանից հետո, երբ Anthropic-ը կառավարության հետ աշխատել է ռիսկերը վերացնելու ուղղությամբ։ Այնուամենայնիվ, քննադատները նշում են, որ GPT-5.6-ը լայնորեն գործարկվել է հուլիսի 10-ին, չնայած այն հանգամանքին, որ UK AISI-ն հայտնաբերել էր նմանատիպ դասի խոցելիություն:cnbc+3

Տարբեր արդյունքներ, նույն ռիսկերը

OpenAI-ը GPT-5.6 Sol-ը գնահատում է որպես «բարձր» հնարավորություններ ունեցող կիբերանվտանգության առումով՝ իր պատրաստվածության շրջանակի համաձայն, սակայն նշում է, որ մոդելը չի հասնում «կրիտիկական» մակարդակի, քանի որ այն չի կարող ինքնավար կերպով իրականացնել ամբողջական հարձակումներ պաշտպանված թիրախների վրա։ Ընկերության բազմաշերտ անվտանգության համակարգը ներառում է ակտիվացման դասակարգիչներ, որոնք միջամտում են գեներացման ընթացքում և իրական ժամանակում սկանավորում են ելքային տվյալները:helpnetsecurity+3

Կարգավորող տարբեր արձագանքները՝ արտահանման վերահսկողություն Anthropic-ի համար և հաստատված գործարկում OpenAI-ի համար, բանավեճեր են առաջացրել AI անվտանգության հետազոտողների շրջանում հարձակողական կիբերպոտենցիալ ունեցող սահմանային մոդելների նկատմամբ կառավարության վերահսկողության հետևողականության վերաբերյալ:nile1

Sources (28)