Ερευνητές παρακάμπτουν την ασφάλεια του GitHub Copilot με jailbreak σε επίπεδο ροής εργασιών

Μια σύγκλιση ερευνητικών ευρημάτων τις τελευταίες εβδομάδες αποκάλυψε νέες ευπάθειες στα συστήματα ασφαλείας μεγάλων γλωσσικών μοντέλων, προκαλώντας επείγουσες αντιδράσεις από εταιρείες τεχνητής νοημοσύνης και, σε μία περίπτωση, μια άνευ προηγουμένου κυβερνητική παρέμβαση. Οι ανακαλύψεις υπογραμμίζουν αυτό που οι ομοσπονδιακοί επιστήμονες αποκαλούν πλέον μαθηματική βεβαιότητα: κανένα σταθερό σύνολο δικλείδων ασφαλείας δεν μπορεί να μπλοκάρει κάθε αντίπαλη επίθεση.

Jailbreaks Ροής Εργασιών και Κατεύθυνση Μηδενικού Χώρου (Nullspace Steering)

Ερευνητές στο Alan Turing Institute αποκάλυψαν την Τετάρτη ένα "jailbreak σε επίπεδο ροής εργασιών" που νικά τα φίλτρα ασφαλείας της Microsoft Corporation ↗ 0.27% για το GitHub Copilot, διασπείροντας επιβλαβή αιτήματα σε μια ακολουθία φαινομενικά αβλαβών βημάτων κωδικοποίησης. Σε απευθείας συνομιλία, ο βοηθός απέρριψε σχεδόν όλα τα 816 επιβλαβή μηνύματα· διασκορπισμένα σε μια ροή εργασιών, τα ολοκλήρωσε όλα. Το εύρημα αναδεικνύει ένα τυφλό σημείο στον έλεγχο ασφαλείας ανά μήνυμα, το τρέχον βιομηχανικό πρότυπο.thenextweb

Ξεχωριστά, μια εργασία που παρουσιάστηκε στο ICLR 2026 εισήγαγε το Head-Masked Nullspace Steering, ή HMNS, μια τεχνική που σιωπά τις εσωτερικές "κεφαλές ασφαλείας" στα επίπεδα προσοχής ενός μοντέλου και εισάγει οδηγίες στο τυφλό τους σημείο. Η μέθοδος πέτυχε ποσοστά επιτυχίας επίθεσης μεταξύ 96% και 99% σε benchmarks και παρέμεινε αποτελεσματική έναντι υπαρχουσών αμυνών όπως το SafeDecoding.reddit+2

Το NIST Δηλώνει την Τέλεια Ασφάλεια Αδύνατη

Στις 9 Ιουνίου, το Εθνικό Ινστιτούτο Προτύπων και Τεχνολογίας (NIST) δημοσίευσε μια αξιολογημένη από ομοτίμους απόδειξη από τον ανώτερο επιστήμονα Apostol Vassilev, υποστηρίζοντας ότι κανένα πεπερασμένο σύστημα δικλείδων ασφαλείας δεν μπορεί να είναι καθολικά ανθεκτικό έναντι προσαρμοστικών αντίπαλων μηνυμάτων. "Η λογική του Gödel ισχύει εδώ", δήλωσε ο Vassilev. "Δεν μπορείς ποτέ να ισχυριστείς ότι είσαι ανθεκτικός έναντι όλων των επιθέσεων αντίπαλων μηνυμάτων". Το NIST συνέστησε τη μετάβαση σε συνεχή red-teaming, τακτικές ενημερώσεις και επιχειρησιακή ανθεκτικότητα αντί για την αντιμετώπιση της ασφάλειας ως ένα ολοκληρωμένο χαρακτηριστικό.nist+1

Οι Εταιρείες Σπεύδουν να Αντιδράσουν

Οι πρακτικές συνέπειες ήρθαν γρήγορα. Αφού ερευνητές της Amazon έκαναν jailbreak στο Claude Fable 5 της Anthropic λίγο μετά την κυκλοφορία του στις 9 Ιουνίου, το Υπουργείο Εμπορίου των ΗΠΑ επέβαλε ελέγχους εξαγωγών που ανάγκασαν την Anthropic να απενεργοποιήσει το μοντέλο παγκοσμίως για σχεδόν τρεις εβδομάδες. Η Anthropic επανέφερε το Fable 5 την 1η Ιουλίου με έναν νέο ταξινομητή ασφαλείας που, όπως λέει, μπλοκάρει την αναφερόμενη τεχνική σε πάνω από το 99% των προσπαθειών.thehackernews+2

Η OpenAI αντιμετώπισε τον δικό της λογαριασμό τον Απρίλιο, όταν το Ινστιτούτο Ασφάλειας ΤΝ του Ηνωμένου Βασιλείου βρήκε ένα καθολικό jailbreak για το GPT-5.5 μέσα σε έξι ώρες από το red-teaming ειδικών. Το GPT-5.6 της εταιρείας, που κυκλοφόρησε αυτή την εβδομάδα, περιλαμβάνει αυτό που αποκαλεί τις "πιο ανθεκτικές" δικλείδες ασφαλείας της μέχρι σήμερα, με έναν ταξινομητή για τον εντοπισμό προσπαθειών jailbreak και στρατηγικές άμυνας σε βάθος. Η Google Alphabet Inc. ↘ 0.69% αφαίρεσε ξεχωριστά 18 επεκτάσεις του Chrome που συνδέονταν με κινδύνους jailbreaking chatbot αφού η Palo Alto Networks τις επισήμανε.aisi+4

Η αναδυόμενη συναίνεση μεταξύ των ερευνητών είναι ωμή: τα jailbreaks είναι ένα μόνιμο χαρακτηριστικό των συστημάτων ΤΝ, όχι ένα σφάλμα που θα διορθωθεί.resilientcyber