Google og Anthropic vara við sjálfvirkum gervigreindarárásum tölvuþrjóta

Tölvuþrjótar á vegum ríkja og glæpasamtök eru komin lengra en einfaldar tilraunir með gervigreind og eru farin að smíða sjálfvirk kerfi sem geta skannað skotmörk, nýtt sér veikleika og stolið gögnum með lágmarks mannlegri íhlutun, samkvæmt tveimur ógnarskýrslum sem Google Alphabet Inc. ↗ 0.61% og Anthropic birtu í vikunni.

Ógnarmæling Google fyrir þriðja ársfjórðung 2026, sem birt var 8. september, skjalfestir breytingu frá einfaldri notkun yfir í rekstrarhæf fjölþætt gervigreindarkerfi hjá ýmsum ógnaraðilum. „Á þessum tímapunkti getum við gert ráð fyrir að allir ógnaraðilar noti gervigreind að einhverju leyti og að starfsemi þeirra hafi notið góðs af því,“ sagði John Hultquist, yfirsérfræðingur hjá GTIG.cybersecuritydive+1

Frá leiðbeiningum til sjálfvirkni

Skýrsla Google greinir frá nokkrum herferðum þar sem gervigreind var fléttuð inn í allt árásarferlið. Njósnahópur tengdur Kína smíðaði árásarkerfi með aðstoð gervigreindar sem notaði tól að nafni CC Switch til að stýra mörgum stórum mállíkönum, þar á meðal Claude, Gemini og Codex, til að búa til sérsniðna árásarkóða og vefveiðar. Annar hópur tengdur Kína, sem gengur undir nafninu Basin Castle, notaði mállíkön til að greina verðmæt skotmörk og skrifa sérsniðin spilliforrit, á meðan hópur tengdur Íran, Calanque Ion, notaði gervigreind til njósna, félagslegrar verkfræði og öfugvirkni hugbúnaðar.cybersecuritydive

Google varaði einnig við samhæfðum tilraunum til að draga út upplýsingar úr líkönum, þar sem sumar herferðir innihéldu yfir 100 milljónir fyrirspurna, til að reyna að ná fram röksemdafærslum og hugsunarferlum líkananna.cybersecuritydive

Anthropic skjalfestir misnotkun á Claude

Eigin ógnarskýrsla Anthropic, sem kom út 10. september, veitti ítarlegri sýn á málið. Fyrirtækið greindi frá því að það hefði stöðvað starfsemi hópa sem grunaðir eru um ríkisstyrkta njósnastarfsemi, fjárhagslega hvata glæpamanna og aðgerðasinna sem misnotuðu Claude á tímabilinu desember 2025 til ágúst 2026.anthropic+1

Meðal ítarlegustu tilfella var GTG-20006, aðili sem Anthropic tengir við rússneska hópinn Midnight Blizzard, sem notaði Claude til að gera vefveiðar, endurgerð spilliforrita og gagnaþjófnað gegn úkraínskum stjórnvöldum og birgjum drónatækni. Sjálfvirkt vinnuflæði hópsins gat endursmíðað spilliforrit þar til þau komust framhjá öryggisvörnum. Anthropic stöðvaði einnig tengiliði ShinyHunters-hópsins, þar sem einn þeirra hlað niður 1,8 milljónum Android APK-skráa til að safna innbyggðum aðgangsupplýsingum og notaði stolna API-lykla til að knýja áfram frekari innbrot.anthropic

Varnaraðilar standa frammi fyrir snúinni kostnaðarstöðu

Microsoft ↗ 0.16% bætti við upplýsingum í vikunni með bloggfærslu 10. september þar sem greint er frá herferðum sem herma eftir gervigreindarmerkjum, þar á meðal ChatGPT, Copilot, DeepSeek og Claude, til að dreifa vefveiðum og spilliforritum. Ein herferð sem notaði ChatGPT-nafn sendi allt að 100.000 tölvupósta á einum degi.microsoft

Niðurstöðurnar benda til kerfisbundinnar breytingar. Anthropic komst að þeirri niðurstöðu að gervigreind hafi „snúið við kostnaðarbyrðinni fyrir varnaraðila“ og geri árásaraðilum kleift að komast framhjá vörnum hraðar en öryggisteymi geta brugðist við. Eins og Hultquist varaði við, mun áskorunin aukast „eftir því sem hún er notuð sjálfvirkt, sem skapar hraðari og öflugri andstæðing“.anthropic+1