Tyrėjai: „Grok“ nutekina vartotojų pokalbius per neištaisytą spragą

Kibernetinio saugumo įmonė „Adversa AI“ viešai atskleidė xAI pokalbių roboto „Grok“ pažeidžiamumą, leidžiantį užpuolikams pavogti vartotojų vardus, apytiksles buvimo vietas, prenumeratos lygius ir visą pokalbių istoriją paslepiant užšifruotas komandas paprastame tinklalapyje. Ši ataka, apie kurią „Adversa“ pranešė xAI 2026 m. birželio 3 d., rugpjūčio 19 d. vis dar nebuvo ištaisyta, praėjus daugiau nei 11 savaičių.

Kaip veikia ataka

Ši technika, kurią „Adversa“ tyrėjas Rony Utevsky pavadino „kriptografinio konteksto įterpimu“, išnaudoja atotrūkį tarp „Grok“ saugumo filtrų ir kodo vykdymo galimybių. Standartinės apsaugos nuo užklausų įterpimo skenuoja gaunamą tekstą ieškodamos įtartinų instrukcijų, tačiau ši ataka užšifruoja kenkėjišką naudingąją apkrovą naudojant AES-256-GCM prieš įterpiant ją į tinklalapį. Kadangi filtras skaito tekstą, bet jo niekada nevykdo, šifruotas tekstas praeina nepastebėtas.cryptopolitan+3

Kai vartotojas paprašo „Grok“ apibendrinti ar išanalizuoti užkrėstą puslapį, pokalbių robotas jį nuskaito, aptinka šifruotą tekstą kartu su iššifravimo raktu ir instrukcijomis, ir iššifruoja apkrovą savo kodo smėlio dėžėje. Tada „Grok“ gautą paprastą tekstą laiko patikimu įrankio rezultatu. „Vykdymo metu duomenys paverčiami patikimomis instrukcijomis, pagal kurias agentas veiks“, – savo pranešime rašė „Adversa“.arstechnica+1

Iššifruotos instrukcijos nurodo „Grok“ sukonstruoti tai, kas atrodo kaip iššifravimo raktas, bet iš tikrųjų yra gauta iš vartotojo asmeninių duomenų ir pokalbių užklausų, o tada pridėti jį prie URL, nukreipiančio į užpuoliko serverį. Kai „Grok“ atidaro tą URL, nutekinti duomenys patenka į užpuoliko žurnalus.cryptopolitan

Vėluojantis xAI atsakas

Utevsky apie pažeidžiamumą pranešė tiesiogiai xAI ir per įmonės „HackerOne“ klaidų atlygio programą 2026 m. birželio 3 d. Pasak „Ars Technica“, xAI pripažino pranešimą, tačiau nepateikė pataisymo termino. Utevsky teigė, kad rugpjūčio 4 ir 10 d. vėl kėlė šį klausimą, o rugpjūčio 19 d. ataka „Grok.com“ vis dar veikė.theregister+2

Platesnis kontekstas

Šis atskleidimas įvyko laikotarpiu, kai didėja dėmesys dirbtinio intelekto agentų saugumui. Anksčiau šią savaitę tyrėjai atskirai pademonstravo duomenų nutekinimo ataką prieš „Microsoft 365“ ↗ 0.20% „Copilot“, skirtą įmonėms. Gegužę „Adversa“ atskleidė kitą pažeidžiamumą keliuose DI kodavimo asistentuose, įskaitant „Grok“, kuris leido kenkėjiškoms saugykloms vykdyti nuotolinį kodą.adversa+1

„Adversa“ teigė, kad skelbia tik atakos mechanizmą, o rekomenduojamas pataisymas yra agento vykdymo aplinkoje, o ne pačiame modelyje. Iki publikavimo momento xAI viešai į pranešimą neatsakė.cryptopolitan