Kanada varuje banky před kybernetickými riziky AI od Anthropic Mythos

Americká agentura pro kybernetickou bezpečnost a bezpečnost infrastruktury (CISA) používá model umělé inteligence Claude Mythos od společnosti Anthropic ke skenování softwaru federální vlády na bezpečnostní zranitelnosti, uvedla 6. července agentura Reuters s odvoláním na tři osoby obeznámené se záležitostí. Toto nasazení představuje další krok ve vládním přijímání špičkové AI pro kybernetickou obranu, i když Anthropic nadále prochází napjatým vztahem s administrativou Donalda Trumpa.reuters+1

Hledání chyb ve federálním kódu

Tým CISA pro hodnocení povrchu útoku – jednotka, která provádí hodnocení digitální bezpečnosti a hackerská cvičení napříč vládou – spouští Mythos proti federálním úložištím kódu, aby označil chyby, které by mohly být zneužity zahraničními zpravodajskými službami a kyberzločinci. Dva ze zdrojů agentuře Reuters řekli, že audity již odhalily velké množství zranitelností, ačkoliv nikdo nechtěl upřesnit jejich rozsah nebo závažnost.thenextweb+2

Ani CISA, ani Anthropic tuto práci oficiálně nepotvrdily. Nasazení následuje po testování Mythos ze strany NSA od dubna a přišlo poté, co americká vláda koncem června povolila společnosti Anthropic vydat svůj model Mythos 5 přibližně 100 důvěryhodným organizacím, včetně společností z žebříčku Fortune 500 a federálních agentur. Ministr obchodu Howard Lutnick v dopise, který viděla CNBC, napsal, že „jsou zavedena vhodná bezpečnostní opatření, která umožňují určitým důvěryhodným partnerům přístup k modelu Claude Mythos 5“.aiweekly+3

Komplikovaný vládní vztah

Toto přijetí přichází na pozadí napětí mezi společností Anthropic a federální vládou. V březnu americká okresní soudkyně Rita Lin dočasně zablokovala označení Anthropic za riziko dodavatelského řetězce ze strany Pentagonu s tím, že jde o odvetu za to, že společnost uplatnila svá práva podle prvního dodatku ústavy. Odvolací soud však v dubnu zamítl žádost Anthropic o prodloužení tohoto soudního příkazu proti ministerstvu obrany, což znamená, že společnost má zakázáno uzavírat smlouvy s ministerstvem obrany, přestože jí je nadále povoleno spolupracovat s jinými agenturami.abc7+2

Kanada bije na poplach

Kanadský úřad dozorce finančních institucí (OSFI) samostatně varoval největší banky v zemi před kybernetickými riziky, která představuje Claude Mythos a další špičkové modely AI, uvedla v neděli agentura Reuters. V e-mailu odeslaném v dubnu OSFI uvedl, že „pokročilé modely umělé inteligence, jako je Anthropic Claude Mythos, výrazně zkracují časový rámec pro účinnou zmírnění rizik,“ a vyzval instituce, aby urychlily své schopnosti detekce a oprav.wtvbam+1

Dvojí povaha této technologie – dostatečně výkonná na to, aby při obranném testování našla tisíce kritických zranitelností, a přitom stejně schopná být zneužita hrozbami – zůstává ústředním napětím, zatímco vlády rozhodují o tom, jak nasadit a regulovat špičkovou AI v kybernetické bezpečnosti.reuters