Öryggissíur gervigreindar hjá Meta og Google teknar úr sambandi á nokkrum mínútum, samkvæmt FT

Hugbúnaðarverkfæri sem fjarlægja öryggisvarnir úr gervigreindarlíkönum þróuðum af Meta ↗ 4.70% og Google Alphabet Inc. ↗ 2.82% geta farið framhjá öryggisráðstöfunum á nokkrum mínútum, samkvæmt rannsókn sem Financial Times birti á sunnudag. Breyttu kerfin svöruðu beiðnum sem tengdust líffræðilegum vopnum, gerð spilliforrita og misnotkun á börnum, sem vekur nýjar áhyggjur af fullnægjandi sjálfboðaliðum öryggisráðstöfunum í gervigreindariðnaðinum.

Prófanir leiða í ljós veikar varnir

Financial Times, í samvinnu við gervigreindaröryggishópinn Alice, framkvæmdi prófanir sem sýndu að verkfærakassar sem eru aðgengilegir almenningi gætu fjarlægt öryggissíur úr víða notuðum líkönum á stuttum tíma. Verkfærakassarnir nýta tækni sem felur í sér létta fínstillingu, gagnasöfn með andstæðum leiðbeiningum og sjálfvirkar breytingar á beiðnum sem skrifa yfir eða komast framhjá innbyggðum vörnum án þess að þurfa fulla endurþjálfun líkansins. Samkvæmt fréttinni er þessum verkfærum nú þegar beitt til að búa til þúsundir breyttra líkana sem komast framhjá takmörkunum sem veitendur hafa sett.ft+2

Niðurstöðurnar koma í kjölfar vaxandi fræðilegra sönnunargagna um skipulagslega veikleika í öryggissamræmingu gervigreindar. Rannsókn frá febrúar sem birt var í Nature Communications leiddi í ljós að stór rökhugsunarlíkön gætu verið notuð sem sjálfstæðir jailbreak-aðilar, sem náðu 97 prósenta árangri í líkanasamsetningum án eftirlits manna. Að auki sýndi grein sem kynnt var á ICLR 2026 tækni sem kallast Head-Masked Nullspace Steering sem náði allt að 99 prósenta árangri í jailbreak með því að þagga niður í sérstökum athyglis-hausum sem bera ábyrgð á öryggishöfnunum.nature+1

Líkan með opnum vigtum auka áhættuna

Rannsóknin undirstrikar spennu sem er kjarninn í gervigreindarstefnu með opnum vigtum sem Llama-röð Meta og Gemma-röð Google styðja. Þó að opnar vigtir flýti fyrir rannsóknum og upptöku forritara, leyfa þær einnig utanaðkomandi aðilum að breyta eða endurpakka líkönum með breyttum öryggisstöðlum. Netöryggissérfræðingar hafa varað við því að margar öryggisvarnir gervigreindar séu aðeins til staðar á yfirborðinu, og þegar notendur fá aðgang að vigtum líkansins er hægt að fjarlægja takmarkanir með því að nota verkfæri sem dreift er ókeypis.nai500+1

The New York Times greindi frá því fyrr í þessum mánuði að öryggiseftirlit með gervigreind í iðnaðinum sé enn að mestu árangurslaust, og benti á að vísindamenn hjá netöryggisfyrirtækinu LayerX hefðu farið framhjá öryggisráðstöfunum Claude með lágmarks fyrirhöfn.nytimes

Áhrif á reglugerðir og markað

Eftirlitsstofnanir í Washington, Brussel og London hafa gefið til kynna að sjálfboðaliðar skuldbindingar frá gervigreindarþróunaraðilum verði ekki nægjanlegar. Bandaríkin hafa nú þegar ramma fyrir framkvæmdaskipanir og NIST-leiðbeiningar sem hægt væri að nýta til framfylgdar, á meðan gervigreindarlög ESB leggja á sektir fyrir kerfisbundnar öryggisbresti. Líklegt er að niðurstöðurnar muni auka kröfur um framfylgjanlega staðla sem gilda bæði um lokuð gervigreindarkerfi og kerfi með opnum vigtum, sem gæti hægt á upptöku fyrirtækja þar sem innkaupateymi krefjast sterkari tæknilegra trygginga og óháðra endurskoðunarferla.nai500