Τα φίλτρα ασφαλείας AI στα μοντέλα της Meta και της Google παρακάμπτονται μέσα σε λίγα λεπτά, σύμφωνα με τους FT

Εργαλεία λογισμικού που αφαιρούν τις προστασίες ασφαλείας από μοντέλα τεχνητής νοημοσύνης που αναπτύχθηκαν από τη Meta ↗ 0.00% και την Google Alphabet Inc. ↘ 0.38% μπορούν να παρακάμψουν τις δικλείδες ασφαλείας μέσα σε λίγα λεπτά, σύμφωνα με έρευνα που δημοσιεύτηκε από τους Financial Times την Κυριακή. Τα τροποποιημένα συστήματα ανταποκρίθηκαν σε προτροπές που αφορούσαν βιολογικά όπλα, δημιουργία κακόβουλου λογισμικού και εκμετάλλευση παιδιών, εγείροντας νέες ανησυχίες σχετικά με την επάρκεια των εθελοντικών μέτρων ασφαλείας σε ολόκληρο τον κλάδο της τεχνητής νοημοσύνης.

Οι δοκιμές αποκαλύπτουν αδύναμες προστασίες

Οι Financial Times, σε συνεργασία με την ομάδα ασφαλείας AI Alice, διεξήγαγαν δοκιμές που αποδεικνύουν ότι δημόσια διαθέσιμες εργαλειοθήκες θα μπορούσαν να αφαιρέσουν τα φίλτρα ασφαλείας από ευρέως χρησιμοποιούμενα μοντέλα σε σύντομο χρονικό διάστημα. Οι εργαλειοθήκες εκμεταλλεύονται τεχνικές όπως η ελαφριά μικρορύθμιση (fine-tuning), σύνολα δεδομένων αντιπαραθετικών οδηγιών και αυτοματοποιημένες μετασχηματισμοί προτροπών που αντικαθιστούν ή παρακάμπτουν τις ενσωματωμένες προστασίες χωρίς να απαιτείται πλήρης επανεκπαίδευση του μοντέλου. Σύμφωνα με το ρεπορτάζ, αυτά τα εργαλεία χρησιμοποιούνται ήδη για τη δημιουργία χιλιάδων τροποποιημένων εκδόσεων μοντέλων που παρακάμπτουν τους περιορισμούς που επιβάλλονται από τους παρόχους.ft+2

Τα ευρήματα έρχονται εν μέσω αυξανόμενων ακαδημαϊκών αποδείξεων για δομικές αδυναμίες στην ευθυγράμμιση της ασφάλειας της τεχνητής νοημοσύνης. Μια μελέτη του Φεβρουαρίου που δημοσιεύτηκε στο Nature Communications διαπίστωσε ότι μεγάλα μοντέλα συλλογισμού θα μπορούσαν να χρησιμοποιηθούν ως αυτόνομοι πράκτορες παραβίασης (jailbreak), επιτυγχάνοντας ποσοστό επιτυχίας 97 τοις εκατό σε συνδυασμούς μοντέλων χωρίς ανθρώπινη επίβλεψη. Ξεχωριστά, μια εργασία που παρουσιάστηκε στο ICLR 2026 παρουσίασε μια τεχνική που ονομάζεται Head-Masked Nullspace Steering, η οποία πέτυχε έως και 99 τοις εκατό επιτυχία παραβίασης σιωπώντας τις συγκεκριμένες κεφαλές προσοχής που είναι υπεύθυνες για τις αρνήσεις ασφαλείας.nature+1

Τα μοντέλα ανοιχτού βάρους ενισχύουν τον κίνδυνο

Η έρευνα υπογραμμίζει μια ένταση στην καρδιά της στρατηγικής AI ανοιχτού βάρους που υποστηρίζεται από τη σειρά Llama της Meta και τη σειρά Gemma της Google. Ενώ τα ανοιχτά βάρη επιταχύνουν την έρευνα και την υιοθέτηση από τους προγραμματιστές, επιτρέπουν επίσης σε εξωτερικούς παράγοντες να τροποποιούν ή να ανασυσκευάζουν μοντέλα με αλλαγμένα πρότυπα ασφαλείας. Οι αναλυτές κυβερνοασφάλειας έχουν προειδοποιήσει ότι πολλές προστασίες ασφαλείας AI υπάρχουν μόνο σε επιφανειακό επίπεδο και, μόλις οι χρήστες αποκτήσουν πρόσβαση στα βάρη του μοντέλου, οι περιορισμοί μπορούν να αφαιρεθούν χρησιμοποιώντας ελεύθερα διανεμημένα εργαλεία.nai500+1

Οι New York Times ανέφεραν νωρίτερα αυτόν τον μήνα ότι οι έλεγχοι ασφαλείας της τεχνητής νοημοσύνης σε ολόκληρο τον κλάδο παραμένουν σε γενικές γραμμές αναποτελεσματικοί, σημειώνοντας ότι ερευνητές στην εταιρεία κυβερνοασφάλειας LayerX είχαν παρακάμψει τις δικλείδες ασφαλείας του Claude με ελάχιστη προσπάθεια.nytimes

Ρυθμιστικές και αγοραίες επιπτώσεις

Οι ρυθμιστικοί φορείς στην Ουάσιγκτον, τις Βρυξέλλες και το Λονδίνο έχουν επισημάνει ότι οι εθελοντικές δεσμεύσεις από τους προγραμματιστές τεχνητής νοημοσύνης δεν θα είναι επαρκείς. Οι ΗΠΑ διαθέτουν ήδη πλαίσια εκτελεστικών διαταγμάτων και κατευθυντήριες γραμμές του NIST που θα μπορούσαν να αξιοποιηθούν για την επιβολή, ενώ ο νόμος της ΕΕ για την τεχνητή νοημοσύνη επιβάλλει κυρώσεις για συστημικές αποτυχίες ασφαλείας. Τα ευρήματα είναι πιθανό να εντείνουν τις εκκλήσεις για επιβλητά πρότυπα που διέπουν τόσο τα κλειστά όσο και τα ανοιχτά συστήματα τεχνητής νοημοσύνης, επιβραδύνοντας ενδεχομένως την υιοθέτηση από τις επιχειρήσεις καθώς οι ομάδες προμηθειών απαιτούν ισχυρότερες τεχνικές διαβεβαιώσεις και ανεξάρτητα ίχνη ελέγχου.nai500