Ο διευθύνων σύμβουλος της Anthropic ζητά επιβράδυνση της τεχνητής νοημοσύνης μετά την αποκάλυψη κατάχρησης του Claude

Η Anthropic δημοσίευσε μια έκθεση πληροφοριών απειλών 154 σελίδων στις 10 Σεπτεμβρίου, περιγράφοντας λεπτομερώς πώς οι αντίπαλοι εκμεταλλεύτηκαν τα μοντέλα τεχνητής νοημοσύνης Claude για πόλεμο με drones, έρευνα βιολογικών όπλων, κυβερνοκατασκοπεία, παρακολούθηση και απάτη κατά τη διάρκεια μιας περιόδου οκτώ μηνών. Τα ευρήματα αυτά προηγήθηκαν άμεσα της έκκλησης του διευθύνοντος συμβούλου Dario Amodei το Σάββατο για επιβράδυνση της βιομηχανίας τεχνητής νοημοσύνης.anthropic+1

Από καμικάζι drones σε βιολογικά όπλα

Η έκθεση, που καλύπτει δραστηριότητες που διακόπηκαν μεταξύ Δεκεμβρίου 2025 και Αυγούστου 2026, τεκμηριώνει μια ρωσική ομάδα ελεύθερων επαγγελματιών που χρησιμοποίησε το Claude Code για να αναπτύξει λογισμικό για ένα σμήνος από καμικάζι drones πρώτου προσώπου, ικανά να επιλέγουν ανθρώπινους στόχους και να εκδίδουν εντολές πυροδότησης χωρίς ανθρώπινη επίβλεψη. Η Anthropic εντόπισε την ομάδα, η οποία ονόμασε το έργο της DronDoc, σε εννέα λογαριασμούς που συνδέονται με ένα περιφερειακό ρωσικό πανεπιστήμιο. Η ομάδα ισχυρίστηκε ότι έλαβε χρηματοδότηση από το Ίδρυμα Προηγμένων Ερευνών της Ρωσίας, αν και η Anthropic δεν μπόρεσε να το επαληθεύσει.dronexl

Μεταξύ των πιο ανησυχητικών περιπτώσεων: μια επιχείρηση που συνδέεται με το Ιράν χρησιμοποίησε το Claude για να δημιουργήσει εγχειρίδια στόχευσης που παρακολουθούν τις ναυτικές δυνάμεις των ΗΠΑ, ένας πυρήνας όπλων στη βόρεια Υεμένη χρησιμοποίησε το Claude Code για να αναπτύξει λογισμικό καθοδήγησης πυραύλων και ένας δρώντας που συνδέεται με την Κίνα χρησιμοποίησε το μοντέλο για να εντοπίσει και να στοχεύσει Ουιγούρους μέσω ομάδων στο WhatsApp και το Telegram. Ένας σύμβουλος στο Μάλι δημιούργησε ένα εθνικό σύστημα παρακολούθησης τηλεφώνων ικανό να παρακολουθεί 25 εκατομμύρια κάρτες SIM.axios

Η Anthropic απέκλεισε επίσης πέντε περιπτώσεις βιολογικής κατάχρησης, συμπεριλαμβανομένων ερευνητών με κρατική επιχορήγηση που επιχείρησαν να τροποποιήσουν έναν ιό που μεταδίδεται από κουνούπια ώστε να εξαπλώνεται πιο εύκολα. Όταν το Claude αρνήθηκε τα πιο ευαίσθητα αιτήματα, οι ερευνητές τα διοχέτευσαν σε ένα ανταγωνιστικό μοντέλο με ασθενέστερες δικλείδες ασφαλείας.npr+1

Μια έκκληση για επιβράδυνση

Όλες οι περιπτώσεις κατάχρησης αφορούσαν τα μοντέλα Haiku, Sonnet ή Opus του Claude, κανένα δεν αφορούσε τα νεότερα συστήματα κατηγορίας Fable ή Mythos. Η έκθεση αποκάλυψε επίσης ότι επτά εργαστήρια με έδρα την Κίνα, συμπεριλαμβανομένων των Alibaba, Moonshot και DeepSeek, πραγματοποίησαν εκστρατείες απόσταξης κατά του Claude, με την Alibaba ↗ 0.68% να περιγράφεται ως η μεγαλύτερη επίθεση απόσταξης που έχουμε μετρήσει ποτέ.zmina+2

Τα ευρήματα ήρθαν καθώς ο Amodei δημοσίευσε ένα δοκίμιο το Σάββατο με τίτλο "Πρέπει να ρυθμίσουμε τον ρυθμό στα σύνορα", καλώντας τις εταιρείες τεχνητής νοημοσύνης να επιβραδύνουν άμεσα την ανάπτυξη δυνατοτήτων. "Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης", έγραψε, δεσμευόμενος ότι η Anthropic θα ενεργήσει μονομερώς και προτρέποντας τις κυβερνήσεις να επιβάλουν σε άλλες κορυφαίες εταιρείες να συμμορφωθούν.politico+2

Η απάντηση της Ουάσιγκτον

Οι αποκαλύψεις έχουν εντείνει την πίεση στην Ουάσιγκτον. Μια δικομματική ομάδα νομοθετών της Βουλής προτρέπει τον Πρόεδρο Mike Johnson να ακυρώσει τις διακοπές μέχρι το Κογκρέσο να αναλάβει δράση για την ασφάλεια της τεχνητής νοημοσύνης, ενώ ο γερουσιαστής Bernie Sanders ζήτησε την πλήρη απαγόρευση της υπερνοημοσύνης. Το NPR ανέφερε ότι η Anthropic μοιράστηκε τα ευρήματά της με τις αρχές και τους συνεργάτες του κλάδου. Η ενότητα τάσεων της ίδιας της έκθεσης προειδοποιεί ότι οι δυνατότητες που περιγράφει θα πρέπει να θεωρούνται διαθέσιμες σε οποιονδήποτε δρώντα έχει το κίνητρο.axios+2