Kanada įspėja bankus dėl dirbtinio intelekto kibernetinės rizikos, kylančios iš „Anthropic“ „Mythos“

JAV kibernetinio saugumo ir infrastruktūros saugumo agentūra (CISA) naudoja „Anthropic“ „Claude Mythos“ dirbtinio intelekto modelį federalinės vyriausybės programinei įrangai skenuoti ieškant saugumo spragų, liepos 6 d. pranešė „Reuters“, remdamasi trimis su šiuo klausimu susipažinusiais asmenimis. Šis diegimas žymi dar vieną žingsnį vyriausybei priimant pažangųjį dirbtinį intelektą kibernetinei gynybai, net ir „Anthropic“ tęsiant sudėtingus santykius su D. Trumpo administracija.reuters+1

Klaidų paieška federaliniame kode

CISA atakos paviršiaus vertinimo komanda – padalinys, atliekantis skaitmeninio saugumo vertinimus ir įsilaužimo pratybas vyriausybėje – naudoja „Mythos“ federaliniams kodo saugykloms, kad pažymėtų klaidas, kurias galėtų išnaudoti užsienio žvalgybos tarnybos ir kibernetiniai nusikaltėliai. Du šaltiniai „Reuters“ sakė, kad auditai jau atskleidė daugybę pažeidžiamumų, nors nė vienas nenorėjo detalizuoti jų masto ar rimtumo.thenextweb+2

Nei CISA, nei „Anthropic“ oficialiai nepatvirtino šio darbo. Šis diegimas vyksta po to, kai NSA nuo balandžio mėnesio išbandė „Mythos“, ir po to, kai JAV vyriausybė birželio pabaigoje leido „Anthropic“ išleisti „Mythos 5“ modelį maždaug 100 patikimų organizacijų, įskaitant „Fortune 500“ įmones ir federalines agentūras. Prekybos sekretorius Howardas Lutnickas laiške, kurį matė CNBC, rašė, kad „yra įdiegtos tinkamos apsaugos priemonės, leidžiančios tam tikriems patikimiems partneriams pasiekti „Claude Mythos 5“ modelį“.aiweekly+3

Sudėtingi santykiai su vyriausybe

Šis priėmimas vyksta „Anthropic“ ir federalinės vyriausybės įtampos fone. Kovo mėnesį JAV apygardos teisėja Rita Lin laikinai užblokavo Pentagono sprendimą dėl „Anthropic“ tiekimo grandinės rizikos, nusprendusi, kad tai yra kerštas už tai, kad įmonė naudojosi savo Pirmojo pataisos teikiamomis teisėmis. Tačiau balandžio mėnesį apeliacinis teismas atmetė „Anthropic“ prašymą pratęsti tą draudimą Gynybos departamentui, todėl įmonei uždrausta sudaryti sutartis su Gynybos departamentu, nors vis dar leidžiama dirbti su kitomis agentūromis.abc7+2

Kanada skambina pavojaus varpais

Atskirai Kanados finansų įstaigų priežiūros tarnyba (OSFI) įspėjo didžiausius šalies bankus apie kibernetinio saugumo riziką, kurią kelia „Claude Mythos“ ir kiti pažangūs dirbtinio intelekto modeliai, sekmadienį pranešė „Reuters“. Balandžio mėnesį išsiųstame el. laiške OSFI teigė, kad „pažangūs dirbtinio intelekto modeliai, tokie kaip „Anthropic Claude Mythos“, gerokai sutrumpina efektyvaus rizikos mažinimo laikotarpį“, ir paragino įstaigas paspartinti savo aptikimo ir taisymo galimybes.wtvbam+1

Dvejopa šios technologijos prigimtis – pakankamai galinga, kad gynybiniuose bandymuose aptiktų tūkstančius kritinių pažeidžiamumų, tačiau lygiai taip pat galinti būti panaudota grėsmę keliančių subjektų – išlieka pagrindine įtampa, vyriausybėms sprendžiant, kaip diegti ir reguliuoti pažangųjį dirbtinį intelektą kibernetiniame saugume.reuters