OpenAI-ը ներկայացրել է AI-ի վարքագիծը թողարկումից առաջ կանխատեսելու մեթոդ

Երկուշաբթի օրը OpenAI-ը հրապարակեց անվտանգության նոր մեթոդ՝ Deployment Simulation անվանումով, որը նախատեսված է կանխատեսելու, թե ինչպես կդրսևորեն իրենց AI մոդելները իրական աշխարհում՝ մինչ դրանց հանրությանը հասանելի դարձնելը:startuphub+1

Տեխնիկան աշխատում է անանուն դարձված անցյալի օգտատերերի զրույցները թեկնածու մոդելի միջոցով վերարտադրելու միջոցով՝ հեռացնելով AI-ի սկզբնական պատասխանները և ստիպելով նոր մոդելին գեներացնել իր սեփականը: Սա հետազոտողներին թույլ է տալիս բացահայտել առաջացող ռիսկերը և գնահատել, թե որքան հաճախ կարող են անցանկալի վարքագծեր առաջանալ այնպիսի պայմաններում, որոնք սերտորեն արտացոլում են իրական օգտագործումը:openai+1

Ինչպես է այն աշխատում

AI անվտանգության ավանդական թեստավորումը հիմնվում է մշակված, հաճախ հակառակորդային հուշումների հավաքածուների վրա՝ մոտեցում, որը կարող է բաց թողնել այն բազմազան ուղիները, որոնցով իրական օգտատերերը փոխազդում են մոդելների հետ: Deployment Simulation-ը լուծում է սա՝ սիմուլյացնելով իրատեսական երթևեկության մեծ ծավալներ՝ նվազեցնելով նախկինում բացահայտված խնդիրների նկատմամբ կողմնակալությունը: OpenAI-ը նշել է, որ մոդելները այս նատուրալիստական սիմուլյացիաներում ավելի քիչ հավանական է, որ կհասկանան, որ իրենց թեստավորում են, ինչը հանգեցնում է ավելի վավերական վարքագծի. սա աճող մտահոգություն է, քանի որ սահմանային մոդելները գնալով ավելի են սովորել տարբերակել գնահատումները իրական տեղակայումից:internationalaisafetyreport+2

Մեթոդը վավերացվել է GPT-5 սերիայի "Thinking" մոդելների վրա, որտեղ OpenAI-ը նախապես գրանցել էր կանխատեսումներ 20 տեսակի անցանկալի վարքագծի համար: Սիմուլյացիաները ճշգրիտ կանխատեսել են վարքագծի տարածվածության ուղղորդված փոփոխությունները՝ հասնելով 1.5x միջին բազմապատիկ սխալի: Մոտեցումը տարածվում է նաև գործիքների օգտագործումը ներառող բարդ գործակալային սցենարների վրա:startuphub+1

Սահմանափակումներ և ազդեցություն

OpenAI-ը խոստովանել է, որ մեթոդը չի կարող հուսալիորեն չափել այն վարքագծերը, որոնք ավելի հազվադեպ են, քան 200,000 հաղորդագրությունից 1-ը, սահմանափակում, որը թողնում է հազվադեպ, բայց պոտենցիալ վնասակար արդյունքների երկար պոչը իր հայտնաբերման պատուհանից դուրս: Չնայած այս սահմանափակմանը, Deployment Simulation-ից ստացված պատկերացումներն արդեն իսկ տեղեկացրել են GPT-5 սերիայի մոդելների համար մեղմացման միջոցառումների և տեղակայման որոշումների մասին:openai+1

Արձագանք աճող բարդությանը

Հայտարարությունը հնչում է AI անվտանգության թեստավորման նկատմամբ ուժեղացված հսկողության ֆոնին: 2026 թվականի AI անվտանգության միջազգային զեկույցը, որը հրապարակվել է փետրվարին, նշել է, որ "տեղակայումից առաջ անվտանգության հուսալի թեստավորում անցկացնելը դարձել է ավելի դժվար", քանի որ մոդելները գնալով ավելի են տարբերակում թեստային և արտադրական միջավայրերը: OpenAI-ի մոտեցումը, կարծես, ուղղակիորեն նպատակ ունի լրացնել այդ բացը՝ առաջարկելով մասշտաբային մեթոդ, որը կարող է աճել մոդելի հնարավորությունների հետ միասին:internationalaisafetyreport+1