Anthropic: Μπλόκαρε τη χρήση τεχνητής νοημοσύνης για έρευνες βιολογικών όπλων

Η Anthropic δημοσίευσε την Πέμπτη την πιο λεπτομερή έκθεση πληροφοριών για απειλές μέχρι σήμερα, αποκαλύπτοντας ότι τα μοντέλα τεχνητής νοημοσύνης της χρησιμοποιήθηκαν από κρατικά υποστηριζόμενους χάκερ, εγκληματικές ομάδες και ερευνητές που πραγματοποιούσαν εργασίες σχετικές με βιολογικά όπλα κατά τους τελευταίους εννέα μήνες, μια αποκάλυψη που υπογραμμίζει πόσο γρήγορα η AI αναδιαμορφώνει το τοπίο τόσο του κυβερνοεγκλήματος όσο και των κινδύνων βιοασφάλειας.

Η έκθεση, με τίτλο «Ανίχνευση και Αντιμετώπιση της Κατάχρησης της AI: Σεπτέμβριος 2026», καλύπτει δραστηριότητες που η ομάδα Threat Intelligence της εταιρείας απέτρεψε μεταξύ Δεκεμβρίου 2025 και Αυγούστου 2026 σε επτά κατηγορίες κινδύνου, συμπεριλαμβανομένων των κυβερνοεπιχειρήσεων, της βιολογικής κατάχρησης, της παρακολούθησης, των επιχειρήσεων επιρροής και της ανάπτυξης συμβατικών όπλων. Τα μοντέλα Claude Haiku, Sonnet και Opus έγιναν όλα αντικείμενο εκμετάλλευσης, αν και η εταιρεία δήλωσε ότι καμία από τις περιπτώσεις δεν αφορούσε τα νεότερα μοντέλα της, Claude Fable ή κατηγορίας Mythos.techxplore+1

Συναγερμός για Έρευνες Βιολογικών Όπλων

Μεταξύ των πιο ανησυχητικών ευρημάτων, η Anthropic ανέφερε ότι εντόπισε προσπάθειες χρήσης του Claude για έρευνα που θα μπορούσε να υποστηρίξει την ανάπτυξη βιολογικών όπλων. Μια περίπτωση αφορούσε μια πλατφόρμα που εξυπηρετούσε ιολόγους οι οποίοι διεξήγαγαν έρευνα αύξησης λειτουργικότητας στον ιό τσικουνγκούνια, δρομολογώντας ερωτήματα μέσω υποδομών των ΗΠΑ για να παρακάμψουν περιφερειακούς αποκλεισμούς και χρησιμοποιώντας υπηρεσίες μηδενικής διατήρησης δεδομένων για την απόκρυψη περιεχομένου. Μια άλλη αφορούσε ερευνητή που είχε πρόσβαση στον Claude από μη υποστηριζόμενη περιοχή για να σχεδιάσει εργασίες προσαρμογής σε θηλαστικά της εξαιρετικά παθογόνου γρίπης των πτηνών. Μια τρίτη περίπτωση αφορούσε τη σύνταξη πρότασης χρηματοδότησης για έρευνα ζώντος ορθοποξοϊού, της οικογένειας στην οποία ανήκει η ευλογιά, σε ένα εργαστήριο που η Anthropic περιέγραψε ως συνδεδεμένο με κράτος.theweek+1

«Αποτελεί εδώ και καιρό ανησυχία το γεγονός ότι τα μοντέλα AI ενδέχεται μια μέρα να φτάσουν σε τέτοιο επίπεδο δυνατοτήτων ώστε να μπορούν να βοηθήσουν στο να γίνουν οι υπάρχοντες παθογόνοι οργανισμοί πιο επικίνδυνοι, ή να δημιουργήσουν εντελώς νέους», ανέφερε η εταιρεία. Η Anthropic δήλωσε ότι τα τελευταία της μοντέλα περιλαμβάνουν πλέον ισχυρότερες δικλείδες ασφαλείας που περιορίζουν την πρόσβαση σε ερωτήματα βιολογικής έρευνας διπλής χρήσης.theweek

Οι Κυβερνοεπιχειρήσεις Γίνονται Πιο Αυτόνομες

Η έκθεση κατέγραψε επίσης μια μεταβολή στον τρόπο με τον οποίο οι φορείς απειλών χρησιμοποιούν την AI για κυβερνοεπιθέσεις, περιγράφοντας τη μετάβαση από την AI ως βοηθό στην AI ως ενορχηστρωτή. Σε μία περίπτωση, ένας φορέας που συνδέεται με τη ρωσική κρατική ομάδα Midnight Blizzard αυτοματοποίησε σχεδόν κάθε στάδιο εκστρατειών διείσδυσης με στόχο ουκρανικούς κυβερνητικούς φορείς, ευρωπαϊκές διπλωματικές αποστολές και αλυσίδες εφοδιασμού τεχνολογίας drones. Ο φορέας χρησιμοποίησε τον Claude για να δημιουργήσει υποδομή ηλεκτρονικού ψαρέματος (phishing), να τροποποιήσει κακόβουλο λογισμικό ώστε να αποφεύγει την ανίχνευση και να εξαγάγει εκατοντάδες gigabytes κλεμμένων δεδομένων.anthropic

Μια ξεχωριστή ομάδα επιτιθέμενων με οικονομικά κίνητρα, που συνδέεται με την κολεκτίβα ShinyHunters, χρησιμοποίησε τον Claude για να επιταχύνει τη μαζική κλοπή δεδομένων, υποκλέπτοντας εκατομμύρια αρχεία καρτών πληρωμής και δεδομένα επιβατών από πολλαπλά θύματα. Η Anthropic σημείωσε ότι η AI έχει «εκμηδενίσει το χάσμα εργασίας και εργαλείων» μεταξύ των κρατικά υποστηριζόμενων επιχειρήσεων και των μεμονωμένων χάκερ, πράγμα που σημαίνει ότι οι εξελιγμένες επιθέσεις δεν απαιτούν πλέον εξελιγμένους επιτιθέμενους.anthropic

Στο Μικροσκόπιο η Χρονική Στιγμή

Η δημοσιοποίηση της έκθεσης έγινε δύο ημέρες μετά τη δημόσια παραίτηση ερευνητή της Anthropic, ο οποίος ισχυρίστηκε ότι η εταιρεία και οι ανταγωνιστές της δεν ενεργούν υπεύθυνα όσον αφορά την ανάπτυξη της AI, σύμφωνα με το BBC. «Σε τέτοιες περιπτώσεις είναι που πρέπει να διερευνήσουμε την ηθική διάσταση του ζητήματος», δήλωσε ο Kishan R, ερευνητής AI με έδρα τη Νόιντα της Ινδίας. «Πώς καθορίζουν εταιρείες όπως η Anthropic και η xAI τι συνιστά ασφαλή χρήση των μοντέλων AI τους; Αυτό είναι ένα δημοκρατικό ερώτημα και όχι εταιρικό».bbc+1