Πάνω από 100 κρίσιμα κενά ασφαλείας εντόπισαν σε δύο ημέρες οι πράκτορες τεχνητής νοημοσύνης της Mandiant

Η ομάδα Threat Intelligence της Google Alphabet Inc. ↘ 1.11% αποκάλυψε την Τετάρτη πώς ένα εσωτερικό εργαλείο της Mandiant χρησιμοποιεί αλυσίδες πρακτόρων τεχνητής νοημοσύνης για τον εντοπισμό ευπαθειών λογισμικού, αναφέροντας ότι αποκάλυψε περισσότερα από 100 επιβεβαιωμένα κενά ασφαλείας υψηλής επικινδυνότητας μέσα σε μόλις δύο ημέρες κατά τη διάρκεια έρευνας σε κλεμμένα αποθετήρια εταιρικού πηγαίου κώδικα.

Το εργαλείο, με την ονομασία Agentic Vulnerability Discovery Harness (AVDH), λειτουργεί εντός της Mandiant εδώ και δέκα μήνες, έχοντας σαρώσει δεκάδες εκατομμύρια γραμμές κώδικα και παράγοντας δεκάδες χιλιάδες ευρήματα, σύμφωνα με ανάρτηση στο ιστολόγιο της Google Threat Intelligence Group. Παράλληλα, η Palo Alto Networks ↘ 1.92% ανακοίνωσε την ίδια ημέρα το πρόγραμμα Frontier AI Critical Defense, μια συνεργατική πρωτοβουλία για την προστασία κρίσιμων υποδομών από επιθέσεις που καθοδηγούνται από τεχνητή νοημοσύνη.helpnetsecurity+1

Πώς λειτουργεί το AVDH

Βασισμένο στο Agent Development Kit της Google, το AVDH λειτουργεί ως μια αλυσίδα εξειδικευμένων πρακτόρων. Ένας αρχικός πράκτορας χαρτογραφεί τον κώδικα και δημιουργεί ένα μοντέλο απειλών, το οποίο εξετάζεται από άνθρωπο πριν προχωρήσει η σάρωση. Οι επόμενοι πράκτορες εντοπίζουν σημεία εισόδου όπου η είσοδος του χρήστη εισέρχεται στην εφαρμογή, συλλέγουν σχετικό πλαίσιο, όπως ελέγχους δικαιωμάτων και καθαρισμό δεδομένων, και διατυπώνουν υποθέσεις σχετικά με πιθανά προβλήματα ελέγχου πρόσβασης και επικίνδυνες ροές δεδομένων.cloud.google+1

Πολλοί πράκτορες στη συνέχεια επικυρώνουν κάθε υπόθεση, λειτουργώντας σκόπιμα με υψηλές ρυθμίσεις «θερμοκρασίας» για να διευρύνουν τη συλλογιστική τους. Ένας πράκτορας σύνθεσης ταξινομεί τα ευρήματα σε επιβεβαιωμένα, διαψευσμένα ή απορριφθέντα. Κάθε επιβεβαιωμένο εύρημα απαιτεί ακόμα έναν σύμβουλο της Mandiant για να αναπαράγει την επίθεση με κώδικα απόδειξης της ιδέας (proof-of-concept) πριν καταμετρηθεί.helpnetsecurity

Το εργαλείο έχει ήδη οδηγήσει στην απόδοση 12 CVE σε ευρέως χρησιμοποιούμενες επεκτάσεις ιστού και έργα ανοιχτού κώδικα, με «μια ντουζίνα επιπλέον να βρίσκονται υπό ενεργή αποκάλυψη», έγραψαν οι ερευνητές Alex Tselevich και Michael Maturi.cloud.google+1

Η απάντηση της Palo Alto Networks στο κενό ασφαλείας

Η Palo Alto Networks ανακοίνωσε ότι τα δικά της μοντέλα Frontier AI έχουν εντοπίσει περισσότερες από 14.000 άγνωστες μέχρι πρότινος ευπάθειες σε λογισμικό ανοιχτού κώδικα. Το νέο της πρόγραμμα Frontier AI Critical Defense συγκεντρώνει συνεργάτες όπως οι Anthropic, OpenAI, IBM International Business Machines Corporation ↗ 2.34%, Red Hat, Microsoft ↘ 0.31%, Siemens, το Εθνικό Εργαστήριο του Idaho, η Mitsubishi και η Axis Communications για την ανάπτυξη προληπτικών «εικονικών διορθώσεων» σε επίπεδο δικτύου, οι οποίες εξουδετερώνουν τα κενά πριν μπορέσουν να αναπτυχθούν με ασφάλεια οι διορθώσεις λογισμικού.streetinsider+1

«Στην εποχή της τεχνητής νοημοσύνης Frontier, ο παραδοσιακός, αντιδραστικός αγώνας για τη δημιουργία και την ανάπτυξη διορθώσεων λογισμικού πριν οι αντίπαλοι εκμεταλλευτούν ένα κενό είναι μια χαμένη μάχη», δήλωσε ο Lee Klarich, επικεφαλής προϊόντων της Palo Alto Networks.streetinsider

Μια διευρυνόμενη κούρσα εξοπλισμών

Οι ανακοινώσεις έρχονται εν μέσω αυξανόμενης ανησυχίας ότι η τεχνητή νοημοσύνη συμπιέζει το χρονικό διάστημα μεταξύ της ανακάλυψης μιας ευπάθειας και της εκμετάλλευσής της. Τον Μάιο, η ομάδα Threat Intelligence της Google κατέγραψε την πρώτη δημόσια γνωστή επίθεση zero-day που δημιουργήθηκε με τη βοήθεια τεχνητής νοημοσύνης, όπου μια εγκληματική ομάδα χρησιμοποίησε μεγάλα γλωσσικά μοντέλα για να εντοπίσει ένα λογικό σφάλμα σε ένα εργαλείο διαχείρισης ανοιχτού κώδικα. Η Cloud Security Alliance προειδοποίησε τον Αύγουστο ότι ο εντοπισμός ευπαθειών μέσω τεχνητής νοημοσύνης ξεπερνά την ικανότητα των οργανισμών να εφαρμόζουν διορθώσεις.hothardware+2

Οι ερευνητές της Mandiant αναγνώρισαν την ένταση. «Η χειροκίνητη αναθεώρηση πηγαίου κώδικα δεν μπορεί να συμβαδίσει με την τεχνητή νοημοσύνη και οι παραδοσιακές μηχανές σάρωσης χάνουν συστηματικά το ευρύ φάσμα ευπαθειών που κρύβονται στο σύγχρονο λογισμικό», έγραψαν, προσθέτοντας ότι τα αποτελέσματά τους δείχνουν πως «οι αμυνόμενοι μπορούν να ανακτήσουν το πλεονέκτημα έναντι της ανταγωνιστικής τεχνητής νοημοσύνης».helpnetsecurity