Five Eyes varuje: modely AI schopné velkých kybernetických útoků jsou otázkou měsíců

Kyberbezpečnostní agentury zpravodajské aliance Five Eyes vydaly v pondělí vzácné společné prohlášení, v němž varují, že hraniční modely AI schopné způsobit velké kybernetické škody budou veřejně dostupné během pouhých několika měsíců, a vyzvaly organizace po celém světě k okamžitému jednání.

Prohlášení, které vydaly agentury ze Spojených států, Spojeného království, Kanady, Austrálie a Nového Zélandu, varuje, že „očekává se, že hraniční modely AI překonají stávající průmyslové prognózy a výrazně změní útočné a kybernetické schopnosti“, a dodává, že „časový horizont není v řádu let, ale pouhých měsíců“.The Guardian+1

Australské centrum pro kybernetickou bezpečnost zveřejnilo prohlášení, které varuje, že „předpoklady kybernetického rizika mohou zastarat během měsíců, nikoliv let“, a vyzvalo vládní i firemní lídry, aby posílili svou obranu, než se okno příležitosti uzavře.cyber+1

Nová generace modelů schopných kybernetických útoků

Varování přichází uprostřed turbulentního období vývoje hraniční AI. Společnost Anthropic spustila svůj model Fable 5 dne 9. června – popsaný jako veřejně přístupná verze jejího omezeného systému Mythos – jen aby jej americké ministerstvo obchodu o tři dny později nařídilo stáhnout na základě směrnice o kontrole vývozu s odkazem na národní bezpečnost. Model během své krátké dostupnosti překonal všechny hlavní benchmarky AI.The Next Web+1

Společnost OpenAI také vstoupila do kybernetické arény s Daybreak, platformou pro kybernetickou bezpečnost, která integruje její systémy GPT-5.5 a Codex pro automatizaci detekce zranitelností a oprav pro partnery včetně Cisco ↘ 2.77% a CrowdStrike ↘ 3.44%.CyberScoop

Testování modelu Mythos společnosti Anthropic agenturou NSA údajně prokázalo schopnost systému proniknout do utajovaných systémů amerického kybernetického velitelství během několika hodin během kontrolovaných hodnocení, uvádějí zprávy citující ředitele NSA generála Joshuu Rudda.Pravda Australia

Budování na měsících eskalujících obav

Pondělní prohlášení je nejnovějším ze série stále naléhavějších doporučení Five Eyes ohledně rizik AI. Dne 1. května zveřejnily stejné agentury „Opatrné přijetí agentních služeb AI“, 30stránkovou příručku – první koordinované doporučení Five Eyes zaměřené na autonomní systémy AI –, která nastínila 23 odlišných rizik a více než 100 osvědčených postupů. Tento dokument vyzval organizace, aby „předpokládaly, že agentní systémy AI se mohou chovat neočekávaně“ a aby upřednostnily „odolnost, reverzibilitu a omezení rizik před zvýšením efektivity“.theregister+1

List The Sydney Morning Herald uvedl, že vedoucí představitelé agentur zdůraznili zmenšující se okno mezi objevením zranitelnosti a jejím zneužitím a zdůraznili, že odolnost je nyní nezbytná pro „udržení provozní kontinuity a důvěry trhu“.smh