Το GPT-6 Astra της OpenAI μειώνει τις ψευδαισθήσεις αλλά παραμένει ευάλωτο σε κρυφές επιθέσεις

Το GPT-6 Astra της OpenAI, που κυκλοφόρησε στις 3 Σεπτεμβρίου, σηματοδοτεί μια μετρήσιμη βελτίωση στην ακρίβεια των δεδομένων και στην αντίσταση στην άμεση χειραγώγηση εντολών σε σύγκριση με τον προκάτοχό του, το GPT-5.6 Sol. Ωστόσο, ανεξάρτητες δοκιμές ασφαλείας αποκαλύπτουν ότι το μοντέλο μπορεί ακόμα να παραβιαστεί μέσω κρυφών οδηγιών που είναι ενσωματωμένες σε έγγραφα που επεξεργάζεται, μια αδυναμία που περιπλέκει τη χρήση του σε εταιρικές εφαρμογές και συστήματα πρακτόρων.

Μείωση ψευδαισθήσεων και άμεσων επιθέσεων

Σύμφωνα με την κάρτα συστήματος της OpenAI, το Astra αναπαράγει γνωστά πραγματικά σφάλματα πολύ λιγότερο συχνά από το GPT-5.6 Sol, με τα μεγαλύτερα κέρδη να εμφανίζονται σε ρυθμίσεις χαμηλής καθυστέρησης και χαμηλότερα επίπεδα συλλογισμού. Για τις άμεσες επιθέσεις prompt injection, όπου οι χρήστες προσπαθούν να χειραγωγήσουν το μοντέλο μέσω των δικών τους εισαγωγών, το Astra επιτυγχάνει ποσοστό άμυνας 99,99%, ένα αποτέλεσμα που η OpenAI αποδίδει στη μέθοδο GPT-Red, η οποία χρησιμοποιεί έναν αυτοματοποιημένο επιτιθέμενο για την ενίσχυση του μοντέλου κατά την εκπαίδευση.the-decoder+1

Η αντίσταση στο jailbreak ακολουθεί παρόμοιο μοτίβο. Έναντι ενός σταθερού συνόλου δεδομένων γνωστών επιθέσεων που στοχεύουν σε επιβλαβείς απαντήσεις στη βιολογία, τη βία και την κυβερνοασφάλεια, το Astra αρνείται να συμμορφωθεί στο 91,5 έως 98,3 τοις εκατό των περιπτώσεων. Όταν όμως οι αντίπαλοι προσαρμόζουν τη στρατηγική τους σε πολλούς γύρους συνομιλίας, το ποσοστό άμυνας πέφτει στο 67% περίπου, πράγμα που σημαίνει ότι οι επίμονοι επιτιθέμενοι μπορούν να αποσπάσουν μια προβληματική απάντηση σε μία από τις τρεις προσπάθειες. Η OpenAI σημείωσε ότι αυτές οι δοκιμές διεξήχθησαν στο βασικό μοντέλο χωρίς τα επίπεδα ασφαλείας παραγωγής που συνοδεύουν το καταναλωτικό προϊόν.the-decoder

Οι κρυφές επιθέσεις prompt injection παραμένουν ανησυχία

Η πιο πιεστική ευπάθεια έγκειται στις έμμεσες επιθέσεις prompt injection, όπου κακόβουλες οδηγίες είναι κρυμμένες μέσα σε έγγραφα ή ιστοσελίδες που διαβάζει το μοντέλο. Εξωτερικές δοκιμές από την εταιρεία ασφαλείας Gray Swan, χρησιμοποιώντας 1.810 επιλεγμένες επιθέσεις από το IPI Arena της, διαπίστωσαν ότι το Astra θα μπορούσε να παραβιαστεί τουλάχιστον μία φορά στο 8,5% των σεναρίων όταν του δίνονταν 15 προσπάθειες. Αυτό αντιπροσωπεύει μια σημαντική βελτίωση σε σχέση με το ποσοστό αποτυχίας 27% του GPT-5.6 Sol στην ίδια αξιολόγηση, αλλά εξακολουθεί να σημαίνει ότι το μοντέλο μπορεί να εξαπατηθεί μέσω ενέσιμων οδηγιών σε περίπου ένα στα δώδεκα σενάρια.the-decoder

Το Claude Opus 5 της Anthropic απέδωσε καλύτερα στο ίδιο τεστ, με ποσοστό αποτυχίας 4,8%, αν και δεν ήταν ούτε αυτό άτρωτο.the-decoder

Γιατί έχει σημασία για τους πράκτορες AI

Το Astra είναι το πρώτο μοντέλο της OpenAI που φτάνει στο «Κρίσιμο» όριο ικανότητας κυβερνοασφάλειας στο πλαίσιο του Preparedness Framework της εταιρείας, πράγμα που σημαίνει ότι μπορεί να εντοπίσει και να εκμεταλλευτεί ευπάθειες zero-day σε θωρακισμένα συστήματα χωρίς ανθρώπινη καθοδήγηση. Αυτή η ικανότητα, σε συνδυασμό με τη δυνατότητα του μοντέλου να περιηγείται στον ιστό, να χρησιμοποιεί υπολογιστές και να εκτελεί εργασίες πολλών βημάτων αυτόνομα, καθιστά το κενό της έμμεσης επίθεσης prompt injection πιο σημαντικό από ό,τι θα ήταν για ένα απλό chatbot.deploymentsafety.openai+2

Όπως σημείωσε το The Decoder, για κάθε ομάδα ασφαλείας επιχειρήσεων που αξιολογεί το Astra για αναπτύξεις πρακτόρων, τα αποτελέσματα των έμμεσων επιθέσεων υποδηλώνουν ότι το μοντέλο δεν είναι ακόμη αρκετά αξιόπιστο για περιβάλλοντα όπου θα μπορούσε να φτάσει σε αυτό μη έμπιστο περιεχόμενο.the-decoder