„OpenAI“ pristato „GPT-Red“ – dirbtinį intelektą, sukurtą įsilaužti į savo pačių modelius

„OpenAI“ antradienį pristatė „GPT-Red“ – vidinę automatizuotą „red-teaming“ sistemą, kuri naudoja savarankiško žaidimo metodą, kad dideliu mastu aptiktų „prompt injection“ pažeidžiamumus įmonės DI modeliuose. Pranešime, paskelbtame „OpenAI“ tyrimų tinklaraštyje pavadinimu „GPT-Red: Unlocking Self-Improvement for Robustness“, sistema aprašoma kaip specialiai sukurtas priešininkas, skirtas išbandyti įmonės produktus prieš tai, kai jais gali pasinaudoti piktavaliai.openai+1

Kaip veikia „GPT-Red“

Pasak „MIT Technology Review“, paskelbusio išskirtinę ataskaitą apie šias pastangas, „GPT-Red“ sukurta veikti kaip „aukšto pajėgumo priešininkas“, kuris sistemingai tiria, kaip „OpenAI“ modeliai elgiasi atakų metu. Sistema buvo naudojama priešiškai treniruoti „GPT-5.6“ – naujausią „OpenAI“ pavyzdinių modelių šeimą, išleistą liepos 9 d., o tai, įmonės teigimu, pagerino atsparumą „prompt injection“ atakoms.technologyreview+2

„OpenAI“ „GPT-5.6“ sistemos kortelėje pažymėta, kad įmonė skyrė maždaug 700 000 A100e GPU valandų „juodosios dėžės automatizuotam red teaming“ prieš modelio viešą prieinamumą, o tai leido „sistemingai ištirti tikėtinas silpnąsias vietas, aptikti „jailbreak“ būdus ir padėti mums sustiprinti sistemą prieš paleidimą.“ „GPT-Red“ atrodo kaip tos automatizuotos testavimo infrastruktūros kulminacija, dabar formalizuota kaip įvardyta sistema su savarankiško žaidimo galimybėmis.openai

Platesnis saugumo skatinimas

Šis išleidimas vyksta „OpenAI“ susiduriant su vis didesniu dėmesiu dėl dvejopos paskirties jos vis pajėgesnių modelių. „GPT-5.6“ buvo įvertintas „aukštu“ pajėgumu tiek kibernetinio saugumo, tiek biologinės rizikos srityse pagal įmonės pasirengimo sistemą, nors nė vienoje kategorijoje neperžengė „kritinės“ ribos. JK DI saugumo institutas atskirai patvirtino, kad „GPT-5.5“ anksčiau šiais metais jau pademonstravo pasienio lygio kibernetinius gebėjimus.aisi+1

„OpenAI“ jau kurį laiką kūrė automatizuotą „red teaming“. 2026 m. gegužės mėn. darbo skelbime buvo ieškoma tyrėjo, kuris vadovautų įmonės „Automatizuoto red teaming (ART) pastangoms“, orientuotoms į „keičiamo masto, tyrimais pagrįstų sistemų kūrimą, kurios nuolat atskleidžia gedimų režimus.“ Įmonė taip pat praėjusiais metais „Kaggle“ platformoje surengė 500 000 JAV dolerių vertės viešą „red-teaming“ iššūkį savo atviro svorio modeliui.jobs.ashbyhq+1

„OpenAI“ pristatė „GPT-Red“ kaip dalį savo pastangų „užtikrinti saugumo procedūrų atsparumą ateityje“ prieš priešiškas grėsmes, kurios vystosi kartu su modelių galimybėmis, apibūdindama šį požiūrį savo pranešime kaip savarankiško žaidimo naudojimą siekiant pagerinti „DI saugumą, suderinimą ir atsparumą „prompt injection“ atakoms.“openai