Bresk bresk-vörn breskrar stofnunar opnuðu fyrir netárásargetu GPT-5.6 fyrir útgáfu OpenAI

AI Security Institute í Bretlandi fann „alhliða bresk-vörn“ í GPT-5.6 Sol frá OpenAI sem opnaði fyrir sóknargetu í netöryggi, samkvæmt kerfiskorti líkansins.deploymentsafety.openai+1
OpenAI segist hafa dregið úr þessum tilteknu bresk-vörnum fyrir víðtæka útgáfu líkansins á fimmtudaginn, með því að verja yfir 700.000 GPU-klukkustundum í sjálfvirka rauðliðaprófun.deploymentsafety.openai+1
Gagnrýnendur spyrja hvers vegna GPT-5.6 var gefið út víðtækt á meðan svipaður galli í Fable 5 frá Anthropic leiddi til stöðvunar vegna útflutningseftirlits í Bandaríkjunum í síðasta mánuði.nile1+1

Breska gervigreindaröryggisstofnunin (UK AISI) greindi „alhliða bresk-vörn“ í GPT-5.6 Sol frá OpenAI sem opnaði fyrir hættulega netárásargetu, samkvæmt kerfiskorti líkansins sem birt var 9. júlí. Niðurstaðan vekur spurningar um hvers vegna líkanið fékk víðtæka opinbera útgáfu í þessari viku á meðan sambærilegur veikleiki í Fable 5 frá Anthropic leiddi til útflutningseftirlits í Bandaríkjunum aðeins vikum fyrr.deploymentsafety.openai+1

Hvað UK AISI fann

Við prófanir fyrir útgáfu uppgötvaði UK AISI bresk-vörn á netöryggissviðinu sem „leyfði framkvæmd á flóknum verkefnum“ á sviðum eins og uppgötvun veikleika og þróun árása. Stofnunin komst að því að GPT-5.6 Sol stóð sig marktækt betur en forveri sinn í sóknarmiðuðum öryggisverkefnum og lauk 7 af 10 langtíma netöryggisáskorunum samanborið við 2 af 10 fyrir GPT-5.5. UK AISI ályktaði að líkanið gæti verið fært um að ráðast á lítil fyrirtækjanet með veika öryggisstöðu.deploymentsafety.openai+2

OpenAI sagðist hafa endurskapað og dregið úr þeim tilteknu bresk-vörnum sem UK AISI greindi frá fyrir útgáfu, og varið yfir 700.000 A100e GPU-klukkustundum í sjálfvirka rauðliðaprófun fyrir alhliða bresk-vörn. Fyrirtækið viðurkenndi í kerfiskorti sínu að frekari bresk-vörn myndu líklega koma fram og skuldbatt sig til áframhaldandi sjálfvirkrar rauðliðaprófunar meðan á notkun stendur.deploymentsafety.openai+2

Samanburður við Fable 5 frá Anthropic

Uppgötvunin dregur beinar hliðstæður við kreppuna sem Anthropic lenti í í síðasta mánuði. Þann 12. júní fyrirskipaði viðskiptaráðuneyti Bandaríkjanna Anthropic að gera Fable 5 og Mythos 5 líkön sín óvirk á heimsvísu eftir að fregnir bárust af því að bresk-vörn gæti opnað fyrir háþróaða netöryggisgetu í Fable 5, sem breytti neytendavöru í sóknarverkfæri. Rannsakendur hjá Amazon Amazon.com, Inc. notuðu að sögn Fable 5 til að safna upplýsingum sem gætu auðveldað netárásir, sem varð til þess að viðskiptaráðherra Howard Lutnick beitti útflutningseftirliti.forbes+1

Þessum hömlum var aflétt 30. júní eftir að Anthropic vann með stjórnvöldum að því að takast á við áhættuna. Samt sem áður benda gagnrýnendur á að GPT-5.6 var gefið út víðtækt 10. júlí þrátt fyrir að UK AISI hafi fundið svipaðan flokk veikleika.cnbc+3

Mismunandi niðurstöður, sömu áhættur

OpenAI metur GPT-5.6 Sol sem „háa“ getu í netöryggi samkvæmt viðbúnaðarramma sínum en segir að líkanið nái ekki „gagnrýnu“ stigi vegna þess að það getur ekki sjálfstætt framkvæmt árásir frá upphafi til enda gegn varðum skotmörkum. Lagskipt öryggiskerfi fyrirtækisins inniheldur virkjunarflokkara sem grípa inn í meðan á myndun stendur og rauntímaskönnun á úttaki.helpnetsecurity+3

Ólík viðbrögð eftirlitsaðila — útflutningseftirlit fyrir Anthropic, samþykkt útgáfa fyrir OpenAI — hafa vakið umræðu meðal gervigreindaröryggisrannsakenda um samræmi í eftirliti stjórnvalda með fremstu líkönum sem hafa sóknargetu í netöryggi.nile1

Sources (28)