Η Anthropic αποκαλύπτει κλίμακα σοβαρότητας για jailbreak τεχνητής νοημοσύνης σε συνεργασία με Amazon, Microsoft και Google

Η Anthropic επαναλειτούργησε παγκοσμίως το μοντέλο Claude Fable 5, αφού το Υπουργείο Εμπορίου των ΗΠΑ ήρε τους ελέγχους εξαγωγών που κρατούσαν το σύστημα τεχνητής νοημοσύνης εκτός λειτουργίας για 19 ημέρες, και την Τετάρτη δημοσίευσε ένα νέο βιομηχανικό πλαίσιο για την αξιολόγηση της σοβαρότητας των jailbreak στην τεχνητή νοημοσύνη.

Από την απαγόρευση εξαγωγών στην επαναλειτουργία

Το Υπουργείο Εμπορίου επέβαλε ελέγχους εξαγωγών στο Fable 5 και στο πιο ικανό μοντέλο Mythos 5 στις 12 Ιουνίου, αφού ερευνητές της Amazon Amazon.com, Inc. ↗ 0.40% ανακάλυψαν μια τεχνική jailbreak που έπειθε το Fable 5 να επισημαίνει ευπάθειες λογισμικού και, σε μία περίπτωση, να γράφει κώδικα επίδειξης εκμετάλλευσης. Η εντολή ακολούθησε τηλεφωνική επικοινωνία του διευθύνοντος συμβούλου της Amazon, Andy Jassy, με τον υπουργό Οικονομικών Scott Bessent σχετικά με το εύρημα.letsdatascience+1

Ο υπουργός Εμπορίου Howard Lutnick απέσυρε επίσημα τους περιορισμούς με επιστολή του στις 30 Ιουνίου, δηλώνοντας ότι η άδεια «δεν απαιτείται πλέον για την εξαγωγή, επανεξαγωγή ή μεταφορά εντός της χώρας» κανενός από τα δύο μοντέλα. Σε αντάλλαγμα, η Anthropic συμφώνησε να εντοπίζει και να αντιμετωπίζει προληπτικά τους κινδύνους ασφαλείας, να βοηθήσει στην ανάπτυξη προτύπων για μελλοντικά μοντέλα και να αναφέρει κακόβουλες δραστηριότητες στην κυβέρνηση. Η Anthropic επιβεβαίωσε την αποκατάσταση στο X εκείνο το βράδυ και το Fable 5 επέστρεψε στους χρήστες παγκοσμίως την 1η Ιουλίου μέσω των Claude.ai, Claude Code και Claude Cowork.thenextweb+3

Μια κλιμακωτή προσέγγιση στην κυβερνοασφάλεια

Στις 2 Ιουλίου, η Anthropic δημοσίευσε λεπτομερή τεκμηρίωση σχετικά με τους ταξινομητές ασφαλείας του Fable 5, οι οποίοι ταξινομούν τα αιτήματα κυβερνοασφάλειας σε τέσσερις κατηγορίες αντί να αποκλείουν όλα τα ερωτήματα που σχετίζονται με την ασφάλεια. Η ανάπτυξη ransomware, η διανομή κακόβουλου λογισμικού και οι επιθέσεις σε κρίσιμες υποδομές αποκλείονται πάντα, ενώ οι δοκιμές διείσδυσης και η ανάπτυξη εκμεταλλεύσεων παραμένουν περιορισμένες εν αναμονή καλύτερων ελέγχων εξουσιοδότησης. Αμυντικές εργασίες όπως ο ασφαλής προγραμματισμός, η διαχείριση ενημερώσεων κώδικα και η εκπαίδευση στην ασφάλεια επιτρέπονται από προεπιλογή.cybersecuritynews+1

Παράλληλα με την αποκάλυψη του ταξινομητή, η Anthropic κυκλοφόρησε ένα πρώτο προσχέδιο του πλαισίου Cyber Jailbreak Severity, που αναπτύχθηκε με συνεργάτες όπως η Amazon, η Microsoft ↗ 1.62% και η Google Alphabet Inc. ↘ 0.48% στο πλαίσιο της συνεργασίας Glasswing. Η κλίμακα CJS αξιολογεί τα jailbreak από CJS-0 (Πληροφοριακό) έως CJS-4 (Κρίσιμο) σε τέσσερις άξονες: κέρδος δυνατοτήτων, εύρος, ευκολία οπλοποίησης και δυνατότητα ανακάλυψης. Οι βαθμολογίες μπορούν να κλιμακωθούν αλλά ποτέ να μειωθούν. Η Anthropic έχει ανοίξει κανάλι ανατροφοδότησης στο [email protected] και ξεκίνησε ένα ειδικό πρόγραμμα bug bounty στο HackerOne για ερευνητές.cyberpress+2

Πρόσβαση με συνδρομή και τι ακολουθεί

Η διάθεση συνοδεύεται από μια προειδοποίηση σχετικά με την τιμολόγηση. Οι συνδρομητές Pro, Max, Team και ορισμένοι συνδρομητές Enterprise μπορούν να χρησιμοποιούν το Fable 5 έως και στο 50 τοις εκατό των εβδομαδιαίων ορίων χρήσης τους έως τις 7 Ιουλίου χωρίς επιπλέον κόστος. Μετά από αυτή την ημερομηνία, κάθε token του Fable 5 μεταφέρεται σε χρέωση με βάση τη χρήση με τις τυπικές τιμές API — 10 δολάρια ανά εκατομμύριο tokens εισόδου και 50 δολάρια ανά εκατομμύριο tokens εξόδου — μέχρι η χωρητικότητα να επιτρέψει την πλήρη επιστροφή στις ομαδοποιημένες συνδρομές. Η πρόσβαση στην αγορά cloud μέσω των AWS, Google Cloud και Microsoft Foundry αποκαθίσταται επίσης.marktechpost+2