Ο Καναδάς προειδοποιεί τις τράπεζες για τους κινδύνους κυβερνοασφάλειας από το Mythos της Anthropic

Η Υπηρεσία Κυβερνοασφάλειας και Ασφάλειας Υποδομών των ΗΠΑ χρησιμοποιεί το μοντέλο τεχνητής νοημοσύνης Claude Mythos της Anthropic για τη σάρωση λογισμικού της ομοσπονδιακής κυβέρνησης για κενά ασφαλείας, ανέφερε το Reuters στις 6 Ιουλίου, επικαλούμενο τρία άτομα που γνωρίζουν το θέμα. Η ανάπτυξη σηματοδοτεί ένα ακόμη βήμα στην υιοθέτηση της τεχνητής νοημοσύνης αιχμής από την κυβέρνηση για την κυβερνοάμυνα, ακόμη και καθώς η Anthropic συνεχίζει να διαχειρίζεται μια τεταμένη σχέση με την κυβέρνηση Τραμπ.reuters+1

Αναζήτηση σφαλμάτων στον ομοσπονδιακό κώδικα

Η ομάδα Αξιολόγησης Επιφάνειας Επίθεσης της CISA — μια μονάδα που διεξάγει αξιολογήσεις ψηφιακής ασφάλειας και ασκήσεις hacking σε όλη την κυβέρνηση — εκτελεί το Mythos σε αποθετήρια ομοσπονδιακού κώδικα για να επισημάνει σφάλματα που θα μπορούσαν να αξιοποιηθούν από ξένες υπηρεσίες πληροφοριών και κυβερνοεγκληματίες. Δύο από τις πηγές δήλωσαν στο Reuters ότι οι έλεγχοι είχαν ήδη αποκαλύψει μεγάλο αριθμό ευπαθειών, αν και καμία δεν έδωσε λεπτομέρειες σχετικά με το εύρος ή τη σοβαρότητα.thenextweb+2

Ούτε η CISA ούτε η Anthropic έχουν επιβεβαιώσει επίσημα το έργο. Η ανάπτυξη ακολουθεί τις δοκιμές του Mythos από την NSA από τον Απρίλιο και ήρθε αφού η κυβέρνηση των ΗΠΑ στα τέλη Ιουνίου εξουσιοδότησε την Anthropic να κυκλοφορήσει το μοντέλο Mythos 5 σε περίπου 100 έμπιστους οργανισμούς, συμπεριλαμβανομένων εταιρειών του Fortune 500 και ομοσπονδιακών υπηρεσιών. Ο υπουργός Εμπορίου Howard Lutnick έγραψε σε επιστολή που είδε το CNBC ότι «υπάρχουν κατάλληλες διασφαλίσεις για να επιτραπεί σε ορισμένους έμπιστους συνεργάτες η πρόσβαση στο μοντέλο Claude Mythos 5».aiweekly+3

Μια περίπλοκη κυβερνητική σχέση

Η υιοθέτηση έρχεται στο πλαίσιο της έντασης μεταξύ της Anthropic και της ομοσπονδιακής κυβέρνησης. Τον Μάρτιο, ο δικαστής της περιφέρειας των ΗΠΑ Rita Lin μπλόκαρε προσωρινά τον χαρακτηρισμό της Anthropic ως κινδύνου εφοδιαστικής αλυσίδας από το Πεντάγωνο, κρίνοντας ότι συνιστούσε αντίποινα για την άσκηση των δικαιωμάτων της εταιρείας βάσει της Πρώτης Τροπολογίας. Ωστόσο, ένα εφετείο τον Απρίλιο απέρριψε το αίτημα της Anthropic να παρατείνει αυτή τη δικαστική εντολή κατά του Υπουργείου Άμυνας, αφήνοντας την εταιρεία αποκλεισμένη από συμβάσεις του DOD, ενώ της επιτρέπεται να συνεργάζεται με άλλες υπηρεσίες.abc7+2

Ο Καναδάς κρούει τον κώδωνα του κινδύνου

Ξεχωριστά, το Γραφείο του Επόπτη Χρηματοπιστωτικών Ιδρυμάτων του Καναδά προειδοποίησε τις μεγαλύτερες τράπεζες της χώρας για τους κινδύνους κυβερνοασφάλειας που ενέχουν το Claude Mythos και άλλα μοντέλα τεχνητής νοημοσύνης αιχμής, ανέφερε το Reuters την Κυριακή. Σε email που στάλθηκε τον Απρίλιο, το OSFI ανέφερε ότι «τα προηγμένα μοντέλα τεχνητής νοημοσύνης, όπως το Anthropic Claude Mythos, περιορίζουν σημαντικά το χρονικό πλαίσιο για την αποτελεσματική μετρίαση των κινδύνων», προτρέποντας τα ιδρύματα να επιταχύνουν τις δυνατότητες εντοπισμού και επιδιόρθωσης.wtvbam+1

Η διττή φύση της τεχνολογίας — αρκετά ισχυρή ώστε να εντοπίζει χιλιάδες κρίσιμες ευπάθειες σε αμυντικές δοκιμές, αλλά εξίσου ικανή να χρησιμοποιηθεί ως όπλο από φορείς απειλών — παραμένει η κεντρική ένταση καθώς οι κυβερνήσεις αποφασίζουν πώς να αναπτύξουν και να ρυθμίσουν την τεχνητή νοημοσύνη αιχμής στην κυβερνοασφάλεια.reuters