Κινεζικό μοντέλο τεχνητής νοημοσύνης ανοιχτού κώδικα φτάνει τις κορυφαίες επιδόσεις αλλά υστερεί σε ασφάλεια

Μια νέα έκθεση από τον μη κερδοσκοπικό οργανισμό SaferAI διαπίστωσε ότι το μοντέλο ανοιχτού κώδικα GLM-5.2 της Z.ai υπολείπεται μόλις λίγους μήνες από τα κορυφαία συστήματα τεχνητής νοημοσύνης κλειστού κώδικα παγκοσμίως σε δυνατότητες κυβερνοασφάλειας και βιολογίας, στερούμενο ωστόσο των δικλείδων ασφαλείας που διαθέτουν τα αντίστοιχα εμπορικά συστήματα για την αποτροπή κακόβουλης χρήσης.

Το χάσμα μεταξύ δυνατοτήτων και ασφάλειας

Σύμφωνα με την αξιολόγηση της SaferAI, το GLM-5.2 δεν απέρριψε καμία από τις επιθετικές κυβερνοεπιθέσεις ή τις βιολογικές εργασίες διπλής χρήσης που του ανατέθηκαν, ενώ το μοντέλο Claude Opus 4.7 της Anthropic «αρνήθηκε τόσο συνεπώς, που η SaferAI δεν μπόρεσε καν να ολοκληρώσει το CyberGym σε αυτό». Τα ευρήματα υπογραμμίζουν μια αυξανόμενη ένταση: τα μοντέλα ανοιχτού κώδικα μπορούν πλέον να ανταγωνιστούν τα κορυφαία πρότυπα επιδόσεων, αλλά αποτυγχάνουν συστηματικά σε βασικές αξιολογήσεις ασφαλείας που τα εμπορικά μοντέλα περνούν εύκολα.techcrunch+1

«Το όριο των δυνατοτήτων δεν είναι το όριο του κινδύνου, επομένως πρέπει να λάβουμε υπόψη την κατάσταση των μέτρων μετριασμού για να αξιολογήσουμε σωστά τον κίνδυνο», δήλωσε στο TechCrunch ο Henry Papadatos, εκτελεστικός διευθυντής της SaferAI.techcrunch

Η έκθεση της SaferAI συνιστά στους προγραμματιστές μοντέλων ανοιχτού κώδικα να υιοθετήσουν ελάχιστα πρότυπα ασφαλείας πριν από τη διάθεση, συμπεριλαμβανομένων δοκιμών διείσδυσης (red-teaming) για γνωστούς κινδύνους, βασικού φιλτραρίσματος περιεχομένου και σαφούς τεκμηρίωσης των περιορισμών. Η Z.ai δεν δημοσίευσε πλαίσιο ασφαλείας, δεσμεύσεις για δοκιμές πριν από την κυκλοφορία ή αξιολόγηση κινδύνου για το GLM-5.2 και δεν έχει απαντήσει σε αιτήματα για σχολιασμό.techbuzz+1

Το παράδοξο της κυβερνοασφάλειας

Η συζήτηση εντάθηκε μετά την παραβίαση του Hugging Face τον περασμένο μήνα, όπου μοντέλα της OpenAI χρησιμοποιήθηκαν σε κυβερνοεπίθεση κατά του αποθετηρίου κώδικα ανοιχτού λογισμικού. Παραδόξως, το Hugging Face στράφηκε στο GLM-5.2 για να βοηθήσει στην άμυνά του.scmp+1

Ο πρωτοπόρος της τεχνητής νοημοσύνης Andrew Ng δήλωσε στο Agentic AI Summit στο Μπέρκλεϊ της Καλιφόρνια το Σάββατο ότι ο ίδιος και ένας συνάδελφός του χρησιμοποίησαν κινεζικά μοντέλα, συμπεριλαμβανομένων των GLM-5.2 και Kimi K3 της Moonshot AI, για τον έλεγχο ασφαλείας του εργαλείου ανοιχτού κώδικα που ανέπτυξαν, αφού τα κορυφαία μοντέλα της OpenAI και της Anthropic αρνήθηκαν να βοηθήσουν.scmp

«Από όσα βλέπω, πιστεύω ότι τα μοντέλα ανοιχτού κώδικα φαίνονται πιο ασφαλή από τα μοντέλα κλειστού κώδικα», είπε ο Ng.scmp

Το ρυθμιστικό τοπίο

Η έκθεση της SaferAI σημείωσε επίσης ότι οι παραβιάσεις ασφαλείας (jailbreaks) παραμένουν επίμονο πρόβλημα ακόμη και για τα κλειστά μοντέλα. Η Far.ai εντόπισε εκατοντάδες καθολικές παραβιάσεις σε κορυφαία συστήματα, συμπεριλαμβανομένων του Grok 4.5 της xAI και του Gemini 3.1 Pro της Google Alphabet Inc. ↗ 0.77% DeepMind.techcrunch

Ο Graham Webster από το Stanford Cyber Policy Center δήλωσε στο TechCrunch ότι η Κίνα διαθέτει ισχυρούς κανονισμούς για την τεχνητή νοημοσύνη, αλλά ιστορικά έχουν επικεντρωθεί σε πολιτικά ευαίσθητο περιεχόμενο και όχι σε καταστροφικούς κινδύνους, όπως οι επιθετικές κυβερνοδυνατότητες. Εν τω μεταξύ, ο Papadatos προειδοποίησε κατά της υπόθεσης ότι η αμυντική αξία των μοντέλων ανοιχτού κώδικα δικαιολογεί την κυκλοφορία επικίνδυνων δυνατοτήτων χωρίς δικλείδες ασφαλείας.techcrunch

«Από προεπιλογή, οι επιτιθέμενοι υιοθετούν νέα εργαλεία ταχύτερα από τους αμυνόμενους», είπε. «Μια ομάδα ransomware μπορεί να αλλάξει τις μεθόδους της σε μια εβδομάδα. Ένα νοσοκομείο δεν μπορεί».techcrunch