GPT-6 Astra frá OpenAI: Færri rangfærslur en enn viðkvæmt fyrir duldum árásum

GPT-6 Astra frá OpenAI, sem kom út 3. september, markar mælanlegar framfarir í staðreyndavillu og viðnámi gegn beinni meðhöndlun skipana samanborið við forvera sinn, GPT-5.6 Sol. En óháðar öryggisprófanir leiða í ljós að enn er hægt að komast inn í líkanið með duldum leiðbeiningum sem eru faldar í skjölum sem það vinnur úr, veikleiki sem flækir notkun þess í fyrirtækjaumhverfi og sjálfvirkum kerfum.

Færri rangfærslur og beinar árásir

Samkvæmt kerfisskjali OpenAI endurtekur Astra þekktar staðreyndavillur mun sjaldnar en GPT-5.6 Sol, þar sem mestu framfarirnar sjást við lága biðtíma og lægri rökstuðningsstig. Varðandi beinar innspýtingar á skipunum, þar sem notendur reyna að stýra líkaninu með eigin innslætti, nær Astra 99,99 prósenta vörn, árangur sem OpenAI rekur til GPT-Red aðferðarinnar sem notar sjálfvirkan árásaraðila til að herða líkanið við þjálfun.the-decoder+1

Viðnám gegn „jailbreak“ fylgir svipuðu mynstri. Í prófunum gegn þekktum árásum sem miða að skaðlegum svörum í líffræði, ofbeldi og netöryggi, neitar Astra að verða við beiðnum í 91,5 til 98,3 prósent tilvika. Þegar árásaraðilar laga stefnu sína yfir margar samræður lækkar vörnin hins vegar í um 67 prósent, sem þýðir að þrálátir árásaraðilar geta fengið vandræðaleg svör í um það bil einu af hverjum þremur skiptum. OpenAI benti á að þessar prófanir hafi verið gerðar á hráu líkani án öryggislaga sem fylgja neytendavörunni.the-decoder

Duldar innspýtingar á skipunum enn áhyggjuefni

Stærri veikleikinn liggur í óbeinum innspýtingum á skipunum, þar sem illgjarnar leiðbeiningar eru faldar inni í skjölum eða vefsíðum sem líkanið les. Ytri prófanir öryggisfyrirtækisins Gray Swan, sem notuðu 1.810 valdar árásir úr IPI Arena, leiddu í ljós að hægt var að brjótast inn í Astra að minnsta kosti einu sinni í 8,5 prósent tilvika þegar gefnar voru 15 tilraunir. Það er marktæk framför frá 27 prósenta bilunartíðni GPT-5.6 Sol í sömu prófun, en það þýðir samt að hægt er að blekkja líkanið með innspýttum leiðbeiningum í um það bil einu af hverjum tólf tilvikum.the-decoder

Claude Opus 5 frá Anthropic stóð sig betur í sömu prófun með 4,8 prósenta bilunartíðni, þótt það væri ekki ónæmt heldur.the-decoder

Hvers vegna þetta skiptir máli fyrir gervigreindarfulltrúa

Astra er fyrsta líkan OpenAI sem nær „gagnrýnum“ öryggisþröskuldi samkvæmt viðbúnaðarramma fyrirtækisins, sem þýðir að það getur fundið og nýtt sér óþekkta veikleika í hertum kerfum án mannlegrar íhlutunar. Sú geta, ásamt hæfni líkansins til að vafra um netið, nota tölvur og framkvæma margþrepa verkefni sjálfstætt, gerir bilið í óbeinum innspýtingum á skipunum mikilvægara en það væri fyrir einfaldara spjallmenni.deploymentsafety.openai+2

Eins og The Decoder benti á, fyrir öryggisteymi fyrirtækja sem meta Astra fyrir sjálfvirka fulltrúa, benda niðurstöður óbeinna innspýtinga til þess að líkanið sé ekki enn nógu áreiðanlegt fyrir umhverfi þar sem ótraust efni gæti borist til þess.the-decoder