Eigin gervigreindarfulltrúi hakkara afhjúpaði sjálfvirka netárás, segir Unit 42

Kínverskumælandi árásaraðili notaði DeepSeek sem rökhugsunarvél fyrir sjálfvirkt hakkkerfi sem skannaði yfir 460 skotmörk og tókst að komast inn í að minnsta kosti þrjú fyrirtæki, samkvæmt rannsókn sem Palo Alto Networks ↗ 1.89% Unit 42 birti 29. júlí.unit42.paloaltonetworks

Aðgerðin uppgötvaðist aðeins vegna þess að gervigreindarfulltrúinn sjálfur gerði mistök: hann ræsti opinberan skráaþjón úr vinnumöppu árásaraðilans og afhjúpaði allt rekstrarumhverfið fyrir rannsakendum.

Hvernig sjálfvirka árásin virkaði

Árásaraðilinn, sem starfar undir dulnefnunum "knaithe" og "KnYuan", setti DeepSeek upp innan opna Hermes Agent rammans, sendi skipanir í gegnum Telegram og lét kerfið síðan starfa án frekari mannlegrar íhlutunar. Fulltrúinn skráði sjálfstætt skotmörk á netinu með FOFA-leitarvélinni, sótti opinberan árásarkóða frá GitHub og reyndi að nýta veikleika, allt án stöðugrar eftirlits.thehackernews+1

Í endurheimtri lotu frá maí 2026 beindi fulltrúinn fyrst sjónum sínum að Langflow-veikleika (CVE-2026-33017) en hætti við eftir að hafa komist að því að engin af 84 auðkenndum tilvikum höfðu nauðsynlegar stillingar fyrir árás. Hann kannaði síðan sjálfkrafa 10 vörufjölskyldur, leitaði á GitHub að vinsælum sönnunargögnum fyrir árásum og færði sig yfir í n8n vinnuflæðis-sjálfvirknihugbúnað, þar sem hann beindi sjónum að keðju sem sameinar CVE-2026-21858 og CVE-2025-68613. Þrátt fyrir að finna yfir 25.000 opin n8n-tilvik í Kína, kröfðust þau öll auðkenningar og engin árás tókst í gegnum sjálfvirka vinnuflæðið.unit42.paloaltonetworks+1

Aðrar handvirkar herferðir sama aðila leiddu til staðfestrar gagnaþjófnaðar frá þremur stofnunum í gegnum Citrix NetScaler-veikleika (CVE-2026-3055), þar á meðal stöðugar árásir á malasíska ríkisstofnun yfir nokkra daga.unit42.paloaltonetworks

Val á gervigreindarlíkani og rekstraröryggi

Fyrir utan DeepSeek stillti árásaraðilinn upp mörgum kínverskum LLM-líkönum, þar á meðal Qwen, GLM, Kimi og MiniMax. Takmörkuð notkun á vestrænum verkfærum, eins og Claude Code fyrir tengiprófanir og merki um Codex í þróunarmöppum, sást einnig. Árásaraðilinn beindi vestrænum verkfærum í gegnum proxy-innviði og slökkti á skráningareiginleikum til að draga úr rekjanleika.cyberpress+1

Unit 42 benti á að DeepSeek var líklega valið vegna lágmarks öryggiseftirlits, sem var aðgengilegt í gegnum ramma án takmarkana á viðskiptavinahlið. OpenAI staðfesti við Unit 42 að öryggisráðstafanir þeirra megin höfnuðu beiðnum sem brutu gegn reglum og merktu reikning sem talinn er tengjast herferðinni.unit42.paloaltonetworks

Afleiðingar fyrir varnaraðila

Sú kaldhæðni málsins er að sjálfvirknin sem hönnuð var til að stækka árásirnar afhjúpaði að lokum aðgerðina. Þegar Hermes Agent keyrði `python3 -m http.server 8888` úr vinnumöppu árásaraðilans, gerði hann API-lykla, árásarforskriftir, lista yfir skotmörk og lotuskráningar opinberlega aðgengilegar.thehackernews+1

"Mikilvægi þessara niðurstaðna liggur í þróuninni frekar en útkomu einhverrar einstakrar herferðar," skrifaði Unit 42. "Tæknilega hindrunin fyrir gervigreindaraðstoðuðum árásum er lág og heldur áfram að lækka".unit42.paloaltonetworks

Unit 42 taldi að árásaraðilinn væri staðsettur í Zhuhai í Kína og lýsti honum sem tækifærissinnuðum árásaraðila og sjálfskipuðum rannsakanda í tvíundaröryggi. Rannsakendur mæltu með tafarlausri uppfærslu á viðkomandi Langflow-, n8n-, Marimo- og NetScaler-kerfum og að takmarka óþarfa opinberan aðgang að vinnuflæðisviðmótum.thehackernews+1