OpenAI GPT-6 Astra: méně halucinací, ale stále zranitelný vůči skrytým útokům

Model GPT-6 Astra od OpenAI, vydaný 3. září, představuje měřitelné zlepšení v faktické přesnosti a odolnosti vůči přímé manipulaci s prompty ve srovnání se svým předchůdcem, GPT-5.6 Sol. Nezávislé bezpečnostní testy však odhalují, že model lze stále kompromitovat prostřednictvím skrytých instrukcí vložených do dokumentů, které zpracovává – což je slabina, která komplikuje jeho nasazení v podnikovém prostředí a u autonomních agentů.

Pokles halucinací a přímých útoků

Podle systémové karty OpenAI reprodukuje Astra známé faktické chyby mnohem méně často než GPT-5.6 Sol, přičemž největší zisky jsou patrné při nastavení s nízkou latencí a nižší úrovní uvažování. U přímých injekcí promptů, kdy se uživatelé pokoušejí manipulovat s modelem prostřednictvím vlastních vstupů, dosahuje Astra 99,99procentní míry obrany. Tento výsledek OpenAI připisuje své metodě GPT-Red, která využívá automatizovaného útočníka k posílení modelu během tréninku.the-decoder+1

Odolnost vůči jailbreaku vykazuje podobný vzorec. Proti pevné sadě známých útoků zaměřených na škodlivé odpovědi v oblastech biologie, násilí a kybernetické bezpečnosti Astra odmítá vyhovět v 91,5 až 98,3 procentech případů. Když však protivníci přizpůsobí svou strategii v průběhu několika kol konverzace, míra obrany klesne na zhruba 67 procent, což znamená, že vytrvalí útočníci mohou získat problematickou odpověď přibližně v jednom ze tří pokusů. OpenAI poznamenala, že tyto testy byly provedeny na surovém modelu bez produkčních bezpečnostních vrstev, které jsou součástí spotřebitelského produktu.the-decoder

Skryté injekce promptů zůstávají problémem

Naléhavější zranitelnost spočívá v nepřímých injekcích promptů, kdy jsou škodlivé instrukce skryty uvnitř dokumentů nebo webových stránek, které model čte. Externí testování bezpečnostní firmou Gray Swan, využívající 1 810 kurátorských útoků z její IPI Areny, zjistilo, že Astra může být prolomena alespoň jednou v 8,5 procentech scénářů při 15 pokusech. To představuje výrazné zlepšení oproti 27procentní chybovosti GPT-5.6 Sol při stejném hodnocení, ale stále to znamená, že model lze oklamat prostřednictvím vložených instrukcí zhruba v jednom z dvanácti scénářů.the-decoder

Model Claude Opus 5 od společnosti Anthropic si ve stejném testu vedl lépe s chybovostí 4,8 procenta, i když ani on nebyl imunní.the-decoder

Proč je to důležité pro AI agenty

Astra je prvním modelem OpenAI, který dosáhl „kritické“ hranice kybernetických schopností podle rámce připravenosti společnosti, což znamená, že dokáže identifikovat a zneužít zranitelnosti nultého dne v zabezpečených systémech bez lidského vedení. Tato schopnost, spojená s možností modelu prohlížet web, používat počítače a autonomně provádět vícekrokové úkoly, činí mezeru v nepřímých injekcích promptů závažnější, než by byla u jednoduššího chatbota.deploymentsafety.openai+2

Jak poznamenal server The Decoder, pro jakýkoli podnikový bezpečnostní tým hodnotící Astru pro nasazení agentů výsledky nepřímých injekcí naznačují, že model zatím není dostatečně spolehlivý pro prostředí, kde by se k němu mohl dostat nedůvěryhodný obsah.the-decoder