Η τεχνητή νοημοσύνη της Anthropic εντοπίζει κενά ασφαλείας ταχύτερα από ό,τι η Microsoft μπορεί να τα διορθώσει

Το μοντέλο τεχνητής νοημοσύνης Claude Mythos της Anthropic εντοπίζει ευπάθειες λογισμικού στα προϊόντα της Microsoft ↗ 0.52% με ρυθμό που ξεπερνά την ικανότητα της εταιρείας να τις διορθώνει, σύμφωνα με εσωτερικές ηχογραφήσεις και έγγραφα της Microsoft που εξασφάλισε η ProPublica.propublica

Σε μια συνάντηση στα μέσα Μαΐου με την ονομασία Project Glasswing, οι μηχανικοί της Microsoft συζήτησαν πώς το Mythos είχε αναδείξει 90 κρίσιμα σφάλματα και 141 σημαντικά μόνο στο SharePoint κατά τη διάρκεια του Απριλίου, ενώ ακόμη περισσότερα εντοπίστηκαν το πρώτο δεκαπενθήμερο του Μαΐου. Ο διευθυντής μηχανικής Hans Andersen προέτρεψε τους συναδέλφους του να μειώσουν τον όγκο των εκκρεμοτήτων πριν από την προθεσμία της 31ης Μαΐου, μετά την οποία το μοντέλο της Anthropic θα γινόταν ευρύτερα διαθέσιμο. "Παρακαλώ, παρακαλώ, παρακαλώ αν ο οργανισμός σας έχει σφάλματα από τον Απρίλιο, φροντίστε να τα επιλύσετε", είπε ο Andersen στην ομάδα.propublica

Ο επείγων χαρακτήρας ήταν εμφανής. Όταν ένας μηχανικός ρώτησε αν οι αντίπαλοι θα είχαν πρόσβαση στα σφάλματά τους έως τις 2 Ιουνίου, οι συνάδελφοί του επιβεβαίωσαν: "Ναι".

Ένα φορτίο διορθώσεων που σπάει ρεκόρ

Η πίεση έχει γίνει δημόσια ορατή. Στις 14 Ιουλίου, η Microsoft κυκλοφόρησε διορθώσεις για περισσότερες από 600 ευπάθειες στη μηνιαία ενημέρωση Patch Tuesday, σημειώνοντας ιστορικό ρεκόρ. Σχεδόν όλες αξιολογήθηκαν ως σημαντικές ή κρίσιμες, και τουλάχιστον δύο είχαν ήδη αξιοποιηθεί σε πραγματικές επιθέσεις, συμπεριλαμβανομένου ενός σφάλματος στον SharePoint Server.linkedin+2

"Λοιπόν φίλοι. Εδώ είμαστε. Η αποκάλυψη των σφαλμάτων έχει πέσει πλήρως πάνω μας", έγραψε ο Dustin Childs της Zero Day Initiative σε μια ανάρτηση στο ιστολόγιό του εκείνη την ημέρα.thezdi+1

Η Microsoft δήλωσε στην ProPublica ότι ο συνολικός όγκος "δεν θα σταθεροποιηθεί για λίγο", αλλά ανέφερε ότι η εταιρεία έχει "επενδύσει σημαντικά τόσο σε ανθρώπινο δυναμικό όσο και σε λύσεις διαλογής που βασίζονται στην τεχνητή νοημοσύνη".propublica

Το ευρύτερο τοπίο

Η πρόκληση εκτείνεται πολύ πέρα από τη Microsoft. Στις 28 Ιουλίου, η Hitachi ανακοίνωσε ότι η συμμετοχή της στο Project Glasswing μείωσε τη μοντελοποίηση απειλών για βάσεις κώδικα εκατομμυρίων γραμμών από εβδομάδες σε ώρες, αποκαλύπτοντας ευπάθειες σε κρίσιμο ιδιοταγές λογισμικό που τα υπάρχοντα εργαλεία είχαν παραλείψει.ibtimes

Στα τέλη Ιουνίου, η συμμαχία πληροφοριών Five Eyes εξέδωσε μια ασυνήθιστη κοινή προειδοποίηση ότι τα μοντέλα τεχνητής νοημοσύνης αιχμής "μετασχηματίζουν θεμελιωδώς τόσο τις επιθετικές όσο και τις αμυντικές δυνατότητες στον κυβερνοχώρο" και ότι "το χρονοδιάγραμμα δεν είναι χρόνια, είναι μήνες".euronews+1

Ο Vinh Nguyen, πρώην επικεφαλής αξιωματικός τεχνητής νοημοσύνης στην Υπηρεσία Εθνικής Ασφάλειας (NSA) και νυν ανώτερος τεχνικός σύμβουλος της Anthropic, προειδοποίησε ότι η καθιερωμένη προσέγγιση διαλογής της Microsoft, που δίνει προτεραιότητα στα πιο σοβαρά σφάλματα, μπορεί να είναι ανεπαρκής. Επειδή το Mythos μπορεί να συνδέσει μεταξύ τους σφάλματα χαμηλής σοβαρότητας σε καταστροφικές διαδρομές επίθεσης, είπε, "η τρέχουσα στρατηγική διαλογής μπορεί να υποτιμά τους κινδύνους".propublica

"Δεν υπάρχει εναλλακτική", πρόσθεσε ο Nguyen. "Οι ασθενείς έρχονται γρήγορα και ορμητικά".propublica