„Google“ ir „Anthropic“ įspėja: programišiai naudoja autonomines dirbtinio intelekto atakas

Su valstybėmis susiję programišiai ir kibernetinio nusikalstamumo organizacijos peržengė paprastų DI eksperimentų ribas ir kuria autonomines, agentines sistemas, gebančias skenuoti taikinius, išnaudoti pažeidžiamumus ir vogti duomenis su minimalia žmogaus priežiūra, teigiama šią savaitę „Google Alphabet Inc.“ ↗ 0.61% ir „Anthropic“ paskelbtose grėsmių žvalgybos ataskaitose.

„Google Threat Intelligence Group“ 2026 m. trečiojo ketvirčio DI grėsmių stebėjimo ataskaitoje, paskelbtoje rugsėjo 8 d., dokumentuojamas perėjimas nuo paprasto užklausų teikimo prie operatyvinių daugiagentinių DI sistemų įvairių užpuolikų gretose. „Šiuo metu galime daryti prielaidą, kad visi grėsmės veikėjai tam tikru mastu naudoja DI ir jų operacijos nuo to laimėjo“, – sakė vyriausiasis GTIG analitikas Johnas Hultquistas.cybersecuritydive+1

Nuo užklausų prie autonomijos

„Google“ ataskaitoje išsamiai aprašomos kelios kampanijos, kuriose DI buvo integruotas į visą atakos ciklą. Su Kinija susijusi šnipinėjimo grupė sukūrė DI palaikomą išnaudojimo procesą naudodama įrankį „CC Switch“, kad valdytų kelis didelius kalbos modelius, įskaitant „Claude“, „Gemini“ ir „Codex“, kurdama pritaikytus išnaudojimo scenarijus ir tikslines sukčiavimo žinutes. Kita su Kinija susijusi grupė, stebima kaip „Basin Castle“, užklausė didelius kalbos modelius, kad sudarytų vertingų taikinių profilius ir parašytų pritaikytą kenkėjišką programinę įrangą, o su Iranu susijusi grupė „Calanque Ion“ naudojo generatyvinį DI žvalgybai, socialinei inžinerijai ir programinės įrangos atvirkštinei inžinerijai.cybersecuritydive

„Google“ taip pat įspėjo apie koordinuotas modelių distiliavimo kampanijas, kurių metu buvo atliekama daugiau nei 100 milijonų užklausų, nukreiptų į jos DI modelius, siekiant išgauti jų samprotavimo gebėjimus ir mąstymo procesus.cybersecuritydive

„Anthropic“ dokumentuoja realų „Claude“ piktnaudžiavimą

„Anthropic“ savo grėsmių žvalgybos ataskaitoje, paskelbtoje rugsėjo 10 d., pateikė papildomą ir detalesnį vaizdą. Bendrovė atskleidė, kad nustatė ir nutraukė įtariamų valstybės remiamų grupių, finansiškai motyvuotų nusikaltėlių ir aktyvistų veiklą, kurie piktnaudžiavo „Claude“ nuo 2025 m. gruodžio iki 2026 m. rugpjūčio.anthropic+1

Tarp detaliausių atvejų buvo GTG-20006 – veikėjas, kurį „Anthropic“ susiejo su Rusijos „Midnight Blizzard“, naudojęs „Claude“ sukčiavimo infrastruktūrai automatizuoti, kenkėjiškai programinei įrangai atnaujinti ir duomenims vogti iš Ukrainos vyriausybės bei karinių dronų technologijų tiekėjų. Šio veikėjo DI valdomas darbo procesas galėjo savarankiškai perkurti aptiktą kenkėjišką programinę įrangą, kol ji apeidavo saugumo produktus. „Anthropic“ taip pat nutraukė „ShinyHunters“ kolektyvo filialų veiklą, kurių vienas masiškai atsisiuntė 1,8 milijono „Android APK“ failų, kad surinktų užkoduotus prisijungimo duomenis, ir naudojo pavogtus DI API raktus tolesniems įsilaužimams.anthropic

Gynėjai susiduria su apversta kaštų lygtimi

„Microsoft“ ↗ 0.16% papildė savaitės atskleidimus rugsėjo 10 d. tinklaraščio įrašu, kuriame dokumentuojamos kampanijos, apsimetančios DI prekių ženklais, įskaitant „ChatGPT“, „Copilot“, „DeepSeek“ ir „Claude“, siekiant platinti sukčiavimo rinkinius ir kenkėjišką programinę įrangą. Viena „ChatGPT“ tema parengta kampanija per dieną išsiuntė iki 100 000 el. laiškų.microsoft

Kolektyvinės išvados rodo struktūrinį pokytį. „Anthropic“ padarė išvadą, kad DI „apvertė kaštų naštą gynėjams“, leisdamas užpuolikams apeiti aptikimo priemones greičiau, nei saugumo komandos spėja jas įdiegti. Kaip įspėjo Hultquistas, iššūkis gilės, „kai jis bus taikomas agentiškai, sukuriant mastelio ir greitesnį priešininką“.anthropic+1