Hackeři útočili na banky pomocí modelů Claude a Grok, uvádí Straiker

Dlouhodobě působící latinskoamerická kyberzločinecká skupina využila síť agentů umělé inteligence k průnikům do bank a platebních aplikací s minimálním lidským zásahem, informoval 21. října server The Information. Agenti AI běželi na modelech od společností Anthropic, SpaceX a čínské laboratoře Moonshot AI.marketscreener.com

Podle The Information skupina známá jako CyberCartel zaměřila své automatizované útoky na více než 400 finančních cílů v Latinské Americe. Zjištění pocházejí z vyšetřování kyberbezpečnostního startupu Straiker, který svůj výzkum poskytl exkluzivně tomuto médiu. The Information to označil za jednu z prvních podrobných zpráv o zločincích, kteří využívají modely AI k úspěšné automatizaci průniků do finančních institucí.theinformation.com

Co agenti prováděli

Mezi cíli bylo několik bank a platebních aplikací. Agenti AI dokázali sami krást hesla a zákaznická data a pronikat do bankovních účtů uživatelů, a to téměř bez lidské účasti, uvádí shrnutí zprávy publikované čínským serverem Jinse Finance. Zprávu The Information převzala i agentura MT Newswires. Titulek zmiňuje Grok, chatbota vyvinutého společností xAI, která je nyní součástí SpaceX.marketscreener.com+1

Společnost Moonshot je již pod drobnohledem ve Washingtonu. V září NSA, FBI a CISA obvinily ji a pět dalších čínských firem zabývajících se AI z toho, že odčerpávaly miliardy tokenů z amerických modelů, včetně Claude a Grok, aby trénovaly své vlastní systémy, uvedl server CoinDesk.coindesk.com

Známá skupina s novými nástroji

CyberCartel není žádným nováčkem. Bezpečnostní výzkumníci z IBM uvádějí, že skupina je v Latinské Americe aktivní od roku 2012. Většinou si pronajímala existující malware, místo aby si vytvářela vlastní, a používala jej proti vládním úřadům a finančním institucím. Její metody zahrnovaly falešné fakturace, vládní webové stránky a škodlivá rozšíření prohlížečů, která kradou přihlašovací údaje k bankovnictví. Darktrace spojila skupinu s kampaněmi zaměřenými na uživatele bank a daňových služeb, zejména v Mexiku a Chile. Využívala malvertising a phishingové stránky, které napodobovaly skutečné instituce.ibm.com+1

Rostoucí obavy z útoků agentů

Společnost Straiker prodává bezpečnostní nástroje pro agenty AI. V červenci zveřejnila zprávu o hrozbách, ve které popisuje to, co nazývá „trvalými hrozbami poháněnými AI“: útočníci, kteří jsou sami agenty a dokážou automatizovat průzkum, psát exploity a udržovat dlouhodobý přístup k systémům, uvádí zpráva STAR Labs společnosti. Firma nedávno získala 64 milionů dolarů v investičním kole série A, informoval server The Next Web.straiker.ai+1

Nová zjištění představují problém pro obránce. Nástroje, které útočníci dříve mohli spouštět jen po několika kusech, lze nyní kopírovat na stovky cílů najednou. V samostatném výzkumu společnost Darktrace uvedla, že útoky s asistencí AI „stále zanechávají behaviorální stopu“. Dodala, že ačkoliv AI může ovlivnit způsob, jakým jsou útoky vytvářeny a škálovány, „nečiní je operačně neviditelnými“.darktrace.com