„Mandiant“ dirbtinio intelekto agentai per dvi dienas aptiko daugiau nei 100 kritinių spragų

„Google Alphabet Inc.“ ↘ 0.02% grėsmių žvalgybos grupė trečiadienį atskleidė, kaip vidinis „Mandiant“ įrankis naudoja dirbtinio intelekto agentų grandines programinės įrangos pažeidžiamumams ieškoti. Pranešama, kad per tiesioginį pavogtų įmonių kodo saugyklų tyrimą įrankis per vos dvi dienas aptiko daugiau nei 100 patvirtintų, didelio pavojingumo spragų.

Įrankis, pavadintas „Agentic Vulnerability Discovery Harness“ (AVDH), „Mandiant“ viduje buvo naudojamas dešimt mėnesių. Pasak „Google“ grėsmių žvalgybos grupės tinklaraščio įrašo, jis nuskenavo dešimtis milijonų kodo eilučių ir pateikė dešimtis tūkstančių radinių. Tą pačią dieną „Palo Alto Networks“ ↘ 3.93% paskelbė apie savo „Frontier AI Critical Defense“ programą, skirtą apsaugoti kritinę infrastruktūrą nuo dirbtinio intelekto valdomų atakų.helpnetsecurity+1

Kaip veikia AVDH

Sukurtas „Google“ agentų kūrimo rinkinio pagrindu, AVDH veikia kaip specializuotų agentų konvejeris. Pirmasis agentas sudaro kodo bazės žemėlapį ir sukuria grėsmių modelį, kurį prieš skenavimą peržiūri žmogus. Vėlesni agentai nustato įėjimo taškus, kur vartotojo įvestis patenka į programą, renka svarbų kontekstą, pavyzdžiui, leidimų patikras ir įvesties valymo priemones, bei generuoja hipotezes apie galimas prieigos kontrolės problemas ir pavojingus duomenų srautus.cloud.google+1

Keli agentai tada patikrina kiekvieną hipotezę, sąmoningai veikdami aukštais „temperatūros“ nustatymais, kad išplėstų savo samprotavimus. Sintezės agentas suskirsto radinius į patvirtintus, paneigtus arba atmestus. Kiekvienas patvirtintas radinys vis tiek reikalauja, kad „Mandiant“ konsultantas atkurtų išnaudojimą su koncepcijos įrodymo kodu, prieš jį įskaitant.helpnetsecurity

Šis įrankis jau padėjo suformuoti 12 CVE įrašų plačiai naudojamuose žiniatinklio plėtiniuose ir atvirojo kodo projektuose, o „dar tuzinas šiuo metu yra aktyviai atskleidžiamas“, rašė tyrėjai Alexas Tselevichius ir Michaelas Maturi.cloud.google+1

„Palo Alto Networks“ reaguoja į pataisymų trūkumą

„Palo Alto Networks“ paskelbė, kad jos „Frontier AI“ modeliai aptiko daugiau nei 14 000 anksčiau nežinomų pažeidžiamumų atvirojo kodo programinėje įrangoje. Naujoji „Frontier AI Critical Defense“ programa suburia partnerius, įskaitant „Anthropic“, „OpenAI“, „IBM International Business Machines Corporation“ ↗ 1.77%, „Red Hat“, „Microsoft“ ↗ 0.54%, „Siemens“, Aidaho nacionalinę laboratoriją, „Mitsubishi“ ir „Axis Communications“, kad būtų galima diegti aktyvius tinklo lygio „virtualius pataisymus“, kurie neutralizuoja spragas dar prieš saugiai pritaikant programinės įrangos atnaujinimus.streetinsider+1

„Frontier AI amžiuje tradicinės, reaktyvios lenktynės kuriant ir diegiant programinės įrangos pataisymus, kol priešininkai neišnaudojo spragos, yra pralaimėtas mūšis“, – sakoma „Palo Alto Networks“ produktų vadovo Lee Klaricho pranešime.streetinsider

Besiplečiančios ginklavimosi varžybos

Šie pranešimai pasirodė augant susirūpinimui, kad dirbtinis intelektas sutrumpina laiką tarp pažeidžiamumo atradimo ir jo išnaudojimo. Gegužę „Google“ grėsmių žvalgybos grupė užfiksavo pirmąjį viešai žinomą „zero-day“ išnaudojimą, sukurtą su dirbtinio intelekto pagalba, kai nusikalstama grupė naudojo didelius kalbos modelius loginei spragai atvirojo kodo administravimo įrankyje nustatyti. „Cloud Security Alliance“ rugpjūtį įspėjo, kad dirbtinio intelekto valdomas pažeidžiamumų aptikimas lenkia organizacijų gebėjimą jas taisyti.hothardware+2

„Mandiant“ tyrėjai pripažino įtampą. „Rankinė kodo peržiūra negali suspėti su dirbtiniu intelektu, o tradiciniai skenavimo varikliai nuolat praleidžia platų pažeidžiamumų spektrą, paslėptą šiuolaikinėje programinėje įrangoje“, – rašė jie, pridurdami, kad jų rezultatai rodo, jog „gynėjai gali susigrąžinti pranašumą prieš priešišką dirbtinį intelektą“.helpnetsecurity