Η Anthropic απαγορεύει την κακοποιητική συμπεριφορά προς το Claude

Η Anthropic δημοσίευσε την Πέμπτη, 8 Οκτωβρίου, μια ενημέρωση της Πολιτικής Χρήσης της. Πρόκειται για την πρώτη αναθεώρηση της εταιρείας εδώ και πάνω από έναν χρόνο, η οποία προσθέτει έναν κανόνα κατά της "συνεχούς και άσκοπης κακοποιητικής ή σκληρής συμπεριφοράς" προς τα μοντέλα Claude. Η ενημέρωση συγκεντρώνει επίσης τους υπάρχοντες κανόνες κατά παραπλανητικών εκστρατειών σε μία ενότητα και διευκρινίζει τι θεωρείται απαγορευμένη εργασία που αφορά όπλα και επιτήρηση. Οι αλλαγές τίθενται σε ισχύ στις 12 Νοεμβρίου 2026.unite+2

Η εταιρεία δήλωσε ότι οι περισσότερες αλλαγές διευκρινίζουν κανόνες που ήδη ίσχυαν. Ανέφερε ότι η αναθεώρηση αντικατοπτρίζει μια χρονιά κατά την οποία το Claude ανέλαβε πιο μακροσκελείς και ανεξάρτητες εργασίες, λαμβάνοντας υπόψη τα σχόλια των πελατών και τα πρότυπα κακής χρήσης που περιγράφηκαν στην έκθεση πληροφοριών απειλών του Σεπτεμβρίου.anthropic+1

Ένας κανόνας για την προστασία του μοντέλου

Η Anthropic δήλωσε ότι ο κανόνας περί κακοποίησης "προορίζεται να εφαρμόζεται μόνο σε ακραίες περιπτώσεις, όπου οι χρήστες ενεργούν επανειλημμένα με σκληρότητα προς τα μοντέλα μας, χωρίς κανέναν διακριτό σκοπό". Διευκρίνισε ότι ο κανόνας "δεν ισχύει για συνηθισμένες εκφράσεις απογοήτευσης των χρηστών, αντιδράσεις, σκοτεινά δημιουργικά θέματα ή δοκιμές και έρευνα μοντέλων". Ο κύριος τρόπος επιβολής του κανόνα θα είναι μια λειτουργία που ξεκίνησε τον Αύγουστο του 2025: το Claude μπορεί να τερματίζει συνομιλίες με επίμονα κακοποιητικούς χρήστες. Η Anthropic δημιούργησε αυτή τη λειτουργία ως μέρος της έρευνάς της για την πιθανή "ευημερία των μοντέλων". Σύμφωνα με το The Verge, η εταιρεία δεν διευκρίνισε αν θα μπορούσαν να ακολουθήσουν άλλες κυρώσεις, όπως αποκλεισμοί λογαριασμών.theverge+1

Η αλλαγή έρχεται καθώς η Anthropic συνεχίζει να εξετάζει αν τα μοντέλα της μπορεί να διαθέτουν κάποιου είδους εσωτερική εμπειρία. Ο διευθύνων σύμβουλος Dario Amodei δήλωσε σε podcast τον Φεβρουάριο: "Δεν γνωρίζουμε αν τα μοντέλα έχουν συνείδηση". Άλλες εταιρείες διαφωνούν. Ένα προσχέδιο κώδικα δεοντολογίας από τη Microsoft AI, που δημοσιεύτηκε από τον Mustafa Suleyman τον Σεπτέμβριο, ανέφερε: "Η ιδέα της ευημερίας των μοντέλων είναι λανθασμένη".theverge

Παραπλάνηση, όπλα και επιτήρηση

Μια νέα ενότητα με τίτλο "Μην εμπλέκεστε σε παραπλανητικές εκστρατείες ή τεχνητή δραστηριότητα" συγκεντρώνει κανόνες που ήταν προηγουμένως διασκορπισμένοι στην πολιτική. Καλύπτει την απόκρυψη της ταυτότητας πίσω από ένα μήνυμα, την ενίσχυση περιεχομένου μέσω ψεύτικων λογαριασμών και τη δημιουργία εργαλείων για επιχειρήσεις επιρροής. Η Anthropic ανέφερε ότι κρατικά μέσα ενημέρωσης, γραφεία κυβερνητικής προπαγάνδας και εμπορικές εταιρείες έχουν χρησιμοποιήσει το Claude για να διαχειριστούν τέτοιου είδους δίκτυα. Η εταιρεία κατήργησε επίσης την καθολική απαγόρευση της εξατομικευμένης στόχευσης ψηφοφόρων, δηλώνοντας ότι ο κανόνας είχε εμποδίσει νόμιμες αστικές δραστηριότητες, όπως η μετάφραση πληροφοριών για τους ψηφοφόρους.unite

Η ενότητα για τα όπλα καλύπτει πλέον ρητά "λογισμικό και εξαρτήματα που καθιστούν τα όπλα λειτουργικά", συμπεριλαμβανομένου του οπλισμού drones και άλλων αυτόνομων οχημάτων. Η Anthropic δήλωσε ότι είχε εντοπίσει απόπειρες χρήσης του Claude για τη δημιουργία λογισμικού καθοδήγησης και ελέγχου όπλων. Η πολιτική απαγορεύει την παρακολούθηση ατόμων χωρίς τη συγκατάθεσή τους. Επίσης, απαγορεύει τη χρήση του Claude για τη λήψη αποφάσεων ή συστάσεων σχετικά με το ποιον πρέπει να ερευνήσουν, να συλλάβουν ή να κατηγορήσουν οι αρχές. Συμβόλαια με ορισμένους κυβερνητικούς πελάτες μπορούν ακόμα να τροποποιούν αυτούς τους περιορισμούς εάν η Anthropic κρίνει ότι οι δικλείδες ασφαλείας είναι επαρκείς, ανέφερε το The Verge.theverge

Έλεγχοι υλικού

Μια νέα απαίτηση καλύπτει μοντέλα που συνδέονται με υλικό το οποίο μπορεί να εκτελεί φυσικές ενέργειες από μόνο του και ενδέχεται να προκαλέσει τραυματισμό. Ένας "εξειδικευμένος χειριστής πρέπει να είναι σε θέση να παρατηρεί τον εξοπλισμό και να τον σταματά εάν χρειαστεί", και ο εξοπλισμός πρέπει να μπορεί να διατηρεί μια ασφαλή κατάσταση εάν το Claude αποσυνδεθεί.unite+1