Το Claude Fable 5 της Anthropic δέχεται πυρά για τον αποκλεισμό βασικών ερωτήσεων βιολογίας

Η Anthropic κυκλοφόρησε το Claude Fable 5 την Τρίτη, το πρώτο της δημόσια διαθέσιμο μοντέλο τεχνητής νοημοσύνης κλάσης Mythos, αλλά οι αυτοματοποιημένοι ταξινομητές ασφαλείας του συστήματος προκαλούν ήδη απογοήτευση στους χρήστες, οι οποίοι λένε ότι οι δικλείδες ασφαλείας μπλοκάρουν ερωτήσεις ρουτίνας σχετικά με τη βιολογία, την ιατρική και την κυβερνοασφάλεια — θέματα στα οποία το μοντέλο είχε διαφημιστεί ειδικά ότι υπερέχει.

Ευρεία φίλτρα, περιορισμένη πρόσβαση

Το Fable 5 μοιράζεται την υποκείμενη αρχιτεκτονική του με το Claude Mythos 5, ένα περιορισμένο μοντέλο διαθέσιμο μόνο σε ελεγμένους συνεργάτες. Η βασική διαφορά είναι ένα επίπεδο ταξινομητών που παρακολουθεί αιτήματα που αφορούν την κυβερνοασφάλεια, τη βιολογία, τη χημεία και την απόσταξη μοντέλων. Όταν ενεργοποιούνται, οι απαντήσεις δρομολογούνται σιωπηλά στο Claude Opus 4.8, το προηγούμενο κορυφαίο μοντέλο της Anthropic. Η Anthropic αναφέρει ότι η εφεδρική λύση ενεργοποιείται κατά μέσο όρο σε λιγότερο από το 5 τοις εκατό των συνεδριών.techcrunch+2

Ωστόσο, αυτός ο μέσος όρος επισκιάζει ένα πιο έντονο πρόβλημα. Το The Verge ανέφερε την Τετάρτη ότι το Fable αρνήθηκε να απαντήσει σε βασικές ερωτήσεις βιολογίας που θα μπορούσε να διαχειριστεί ένας μαθητής λυκείου, συμπεριλαμβανομένων ερωτημάτων σχετικά με τον αλλεργικό πυρετό, την ανθεκτικότητα στα αντιβιοτικά και τον τρόπο λειτουργίας της φαρμακευτικής αγωγής για το άσθμα. Στο Reddit, ένας ερευνητής καρκίνου δήλωσε ότι επειδή το προφίλ του λογαριασμού του αναφέρει όρους όπως "κυτταρικές σειρές καρκίνου του προστάτη", κάθε μεμονωμένο ερώτημα — συμπεριλαμβανομένων των χαιρετισμών και των ερωτήσεων για τον καιρό — αναδρομολογείται στο Opus 4.8. Η εκπρόσωπος της Anthropic, Paruul Maheshwary, δήλωσε στο The Verge ότι η εταιρεία "έκανε αυτή την ανταλλαγή ώστε οι πελάτες να επωφεληθούν από τις δυνατότητες του μοντέλου νωρίτερα χωρίς τους κινδύνους".reddit+1

Αντίδραση της βιομηχανίας

Το Business Insider σημείωσε ότι οι περιορισμοί έχουν προκαλέσει κριτική από αναλυτές και πρώτους χρήστες. Ο Patrick Moorhead, διευθύνων σύμβουλος της Moor Insights & Strategy, έγραψε στο X ότι το Fable 5 αρνήθηκε να βοηθήσει με σημεία συζήτησης για την ανάλυση κερδών και μια παρουσίαση στο διοικητικό συμβούλιο επειδή θεώρησε τις εργασίες "πολύ επικίνδυνες". "Είναι αυτό το μοντέλο που μας φοβίζει όλους και κάνει την Anthropic να αξίζει 1 τρισεκατομμύριο δολάρια;" έγραψε.Business Insider Africa

Εν τω μεταξύ, η Microsoft ↗ 2.38% φέρεται να περιορίζει τη χρήση του Fable 5 από τους υπαλλήλους της λόγω ανησυχιών σχετικά με την υποχρεωτική πολιτική διατήρησης δεδομένων 30 ημερών της Anthropic για όλη την κίνηση των μοντέλων κλάσης Mythos, σύμφωνα με το The Verge.U.S. News & World Report

Μια σκόπιμη αντιστάθμιση

Η Anthropic υπήρξε διαφανής σχετικά με το ότι τα φίλτρα βιολογίας είναι σκόπιμα συντηρητικά. Η εταιρεία δήλωσε ότι το Fable 5 είναι το πρώτο μοντέλο κλάσης Mythos που πιστεύει ότι έχει "τη δυνατότητα να χρησιμοποιηθεί από κακόβουλους δρώντες για εξαιρετικά επικίνδυνη βιολογική έρευνα" και ότι μια υπερβολικά προσεκτική προσέγγιση ήταν απαραίτητη για την ασφαλή ανάπτυξη. Η εταιρεία αναφέρει ότι εργάζεται για τη μείωση των ψευδώς θετικών αποτελεσμάτων και σχεδιάζει να επεκτείνει την απεριόριστη πρόσβαση στο Mythos 5 σε ευρύτερους ερευνητές βιοεπιστημών μέσω ενός προγράμματος αξιόπιστης πρόσβασης.anthropic+1

Έως τις 22 Ιουνίου, το Fable 5 παραμένει διαθέσιμο χωρίς επιπλέον κόστος για τους συνδρομητές Pro, Max, Team και Enterprise. Μετά από αυτό, η πρόσβαση θα απαιτεί πιστώσεις χρήσης.thenextweb+1