Βρετανική υπηρεσία ανακάλυψε jailbreaks που ξεκλείδωναν κυβερνο-ικανότητες στο GPT-5.6 πριν από την κυκλοφορία της OpenAI

Το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου (UK AISI) εντόπισε "καθολικά jailbreaks" στο GPT-5.6 Sol της OpenAI, τα οποία ξεκλείδωναν επικίνδυνες κυβερνο-ικανότητες, σύμφωνα με την κάρτα συστήματος του μοντέλου που δημοσιεύθηκε στις 9 Ιουλίου. Το εύρημα εγείρει ερωτήματα σχετικά με το γιατί το μοντέλο έλαβε ευρεία δημόσια κυκλοφορία αυτή την εβδομάδα, ενώ μια αντίστοιχη ευπάθεια στο Fable 5 της Anthropic προκάλεσε ελέγχους εξαγωγών από τις ΗΠΑ μόλις λίγες εβδομάδες νωρίτερα.deploymentsafety.openai+1

Τι ανακάλυψε το UK AISI

Κατά τις δοκιμές πριν από την ανάπτυξη, το UK AISI ανακάλυψε jailbreaks στον τομέα της κυβερνοασφάλειας που "επέτρεπαν την ολοκλήρωση σύνθετων εργασιών από πράκτορες" σε τομείς όπως η ανακάλυψη ευπαθειών και η ανάπτυξη exploits. Η υπηρεσία διαπίστωσε ότι το GPT-5.6 Sol απέδιδε σημαντικά καλύτερα από τον προκάτοχό του σε εργασίες επιθετικής ασφάλειας, ολοκληρώνοντας 7 από τις 10 προκλήσεις κυβερνοασφάλειας μεγάλης διάρκειας, σε σύγκριση με 2 από τις 10 για το GPT-5.5. Το UK AISI κατέληξε στο συμπέρασμα ότι το μοντέλο ενδέχεται να είναι ικανό να επιτεθεί σε μικρής κλίμακας εταιρικά δίκτυα με αδύναμες δικλείδες ασφαλείας.deploymentsafety.openai+2

Η OpenAI δήλωσε ότι αναπαρήγαγε και μετρίασε τα συγκεκριμένα jailbreaks που ανέφερε το UK AISI πριν από την κυκλοφορία, αφιερώνοντας πάνω από 700.000 ώρες GPU A100e σε αυτοματοποιημένο red-teaming για καθολικά jailbreaks. Η εταιρεία αναγνώρισε στην κάρτα συστήματός της ότι πιθανότατα θα εμφανιστούν περαιτέρω jailbreaks και δεσμεύτηκε για συνεχή αυτοματοποιημένο red-teaming κατά τη διάρκεια της ανάπτυξης.deploymentsafety.openai+2

Παραλληλισμοί με το Fable 5 της Anthropic

Η ανακάλυψη προκαλεί άμεσες συγκρίσεις με την κρίση που αντιμετώπισε η Anthropic τον περασμένο μήνα. Στις 12 Ιουνίου, το Υπουργείο Εμπορίου των ΗΠΑ διέταξε την Anthropic να απενεργοποιήσει παγκοσμίως τα μοντέλα Fable 5 και Mythos 5, μετά από αναφορές ότι ένα jailbreak θα μπορούσε να ξεκλειδώσει προηγμένες δυνατότητες κυβερνοασφάλειας στο Fable 5, μετατρέποντας ουσιαστικά ένα καταναλωτικό προϊόν ΤΝ σε επιθετικό εργαλείο. Ερευνητές της Amazon Amazon.com, Inc. ↘ 0.69% φέρεται να χρησιμοποίησαν το Fable 5 για να συλλέξουν πληροφορίες που θα μπορούσαν να διευκολύνουν κυβερνοεπιθέσεις, ωθώντας τον Υπουργό Εμπορίου Howard Lutnick να επικαλεστεί την εξουσία ελέγχου εξαγωγών.forbes+1

Οι έλεγχοι αυτοί ήρθησαν στις 30 Ιουνίου αφού η Anthropic συνεργάστηκε με την κυβέρνηση για την αντιμετώπιση των κινδύνων. Ωστόσο, οι επικριτές επισημαίνουν ότι το GPT-5.6 κυκλοφόρησε ευρέως στις 10 Ιουλίου παρά το γεγονός ότι το UK AISI εντόπισε μια παρόμοια κατηγορία ευπάθειας.cnbc+3

Διαφορετικά αποτελέσματα, ίδιοι κίνδυνοι

Η OpenAI αξιολογεί το GPT-5.6 Sol ως "Υψηλής" ικανότητας στον τομέα της κυβερνοασφάλειας βάσει του Πλαισίου Ετοιμότητάς της, αλλά δηλώνει ότι το μοντέλο δεν φτάνει στο επίπεδο "Κρίσιμο" επειδή δεν μπορεί να εκτελέσει αυτόνομα επιθέσεις από άκρο σε άκρο εναντίον θωρακισμένων στόχων. Η πολυεπίπεδη στοίβα ασφαλείας της εταιρείας περιλαμβάνει ταξινομητές ενεργοποίησης που παρεμβαίνουν κατά τη δημιουργία και σάρωση εξόδου σε πραγματικό χρόνο.helpnetsecurity+3

Οι αποκλίνουσες ρυθμιστικές αντιδράσεις — έλεγχοι εξαγωγών για την Anthropic, εγκεκριμένη κυκλοφορία για την OpenAI — έχουν προκαλέσει συζήτηση μεταξύ των ερευνητών ασφάλειας ΤΝ σχετικά με τη συνέπεια στην κυβερνητική εποπτεία μοντέλων αιχμής με επιθετικές κυβερνο-δυνατότητες.nile1