OpenAI:n GPT-6 Astra hallusinoi vähemmän, mutta on yhä altis piilotetuille hyökkäyksille

OpenAI:n 3. syyskuuta julkaisema GPT-6 Astra merkitsee mitattavaa parannusta faktatarkkuudessa ja vastustuskyvyssä suoralle kehotteiden manipuloinnille verrattuna edeltäjäänsä, GPT-5.6 Soliin. Riippumattomat tietoturvatestit kuitenkin paljastavat, että malli voidaan yhä vaarantaa sen käsittelemiin asiakirjoihin upotetuilla piilotetuilla ohjeilla – heikkous, joka vaikeuttaa sen käyttöä yritysympäristöissä ja agenttipohjaisissa sovelluksissa.

Hallusinaatioiden ja suorien hyökkäysten väheneminen

OpenAI:n järjestelmäkortin mukaan Astra toistaa tunnettuja faktavirheitä huomattavasti harvemmin kuin GPT-5.6 Sol, ja suurimmat parannukset näkyvät matalan latenssin asetuksilla ja alemmilla päättelytasoilla. Suorien kehotteiden injektioiden osalta, joissa käyttäjät yrittävät manipuloida mallia omien syötteidensä kautta, Astra saavuttaa 99,99 prosentin puolustustason. OpenAI selittää tuloksen GPT-Red-menetelmällään, joka käyttää automatisoitua hyökkääjää mallin vahvistamiseen koulutuksen aikana.the-decoder+1

Jailbreak-vastustuskyky noudattaa samanlaista kaavaa. Kiinteää hyökkäysaineistoa vastaan, joka kohdistuu haitallisiin vastauksiin biologiassa, väkivallassa ja kyberturvallisuudessa, Astra kieltäytyy vastaamasta 91,5–98,3 prosentissa tapauksista. Kun hyökkääjät kuitenkin mukauttavat strategiaansa useiden keskustelukierrosten aikana, puolustustaso laskee noin 67 prosenttiin, mikä tarkoittaa, että sinnikkäät hyökkääjät voivat saada ongelmallisen vastauksen noin joka kolmannella yrityksellä. OpenAI huomautti, että nämä testit suoritettiin perusmallilla ilman kuluttajatuotteen mukana tulevia tuotantotason turvakerroksia.the-decoder

Piilotetut kehotteiden injektiot ovat yhä huolenaihe

Kiireellisin haavoittuvuus liittyy epäsuoriin kehotteiden injektioihin, joissa haitallisia ohjeita on piilotettu mallin lukemiin asiakirjoihin tai verkkosivuille. Tietoturvayhtiö Gray Swanin ulkoiset testit, joissa käytettiin 1 810 kuratoitua hyökkäystä sen IPI Arenasta, osoittivat, että Astra voitiin murtaa vähintään kerran 8,5 prosentissa skenaarioista 15 yrityksellä. Tämä on merkittävä parannus GPT-5.6 Solin 27 prosentin epäonnistumisasteeseen samassa arvioinnissa, mutta se tarkoittaa silti, että mallia voidaan huijata injektoiduilla ohjeilla noin joka kahdennessatoista skenaariossa.the-decoder

Anthropicin Claude Opus 5 suoriutui samassa testissä paremmin 4,8 prosentin epäonnistumisasteella, vaikka sekään ei ollut immuuni.the-decoder

Miksi tämä on tärkeää tekoälyagenteille

Astra on OpenAI:n ensimmäinen malli, joka saavuttaa "kriittisen" kyberturvallisuuden kyvykkyyden kynnyksen yhtiön varautumiskehyksen (Preparedness Framework) mukaisesti. Tämä tarkoittaa, että se voi tunnistaa ja hyödyntää nollapäivähaavoittuvuuksia suojatuissa järjestelmissä ilman ihmisen ohjausta. Tämä kyky yhdistettynä mallin kykyyn selata verkkoa, käyttää tietokoneita ja suorittaa monivaiheisia tehtäviä itsenäisesti tekee epäsuorien kehotteiden injektioiden aukosta merkittävämmän kuin yksinkertaisemman chatbotin kohdalla.deploymentsafety.openai+2

Kuten The Decoder totesi, jokaiselle yrityksen tietoturvatiimille, joka arvioi Astraa agenttikäyttöön, epäsuorien injektioiden tulokset viittaavat siihen, että malli ei ole vielä riittävän luotettava ympäristöihin, joihin voi päätyä epäluotettavaa sisältöä.the-decoder