Η Accenture και η Anthropic επενδύουν από 1 δισ. δολάρια στον έλεγχο ασφάλειας της τεχνητής νοημοσύνης

Η Accenture ↘ 1.76% και η Anthropic ανακοίνωσαν την Παρασκευή μια συνεργασία για τη δημιουργία μιας ομάδας ενσωματωμένων αξιολογητών, οι οποίοι θα εργάζονται εντός της Anthropic για να αξιολογούν την ασφάλεια των προηγμένων μοντέλων τεχνητής νοημοσύνης της, με κάθε εταιρεία να δεσμεύεται για επένδυση τουλάχιστον 1 δισ. δολαρίων σε βάθος πενταετίας σε πρωτοβουλίες για την ασφάλεια της τεχνητής νοημοσύνης.investing+1

Η συμφωνία αποτελεί μία από τις μεγαλύτερες εταιρικές δεσμεύσεις για την αξιολόγηση της ασφάλειας της τεχνητής νοημοσύνης και εισάγει μια νέα δομή, στην οποία εξωτερικοί αξιολογητές αποκτούν πρόσβαση επιπέδου υπαλλήλου στις εσωτερικές λειτουργίες ενός προγραμματιστή τεχνητής νοημοσύνης.

Πώς λειτουργεί η ενσωματωμένη αξιολόγηση

Σε αντίθεση με τους παραδοσιακούς εξωτερικούς ελεγκτές, οι ενσωματωμένοι αξιολογητές θα βρίσκονται στα γραφεία της Anthropic, διαθέτοντας κάρτες πρόσβασης, εταιρικούς φορητούς υπολογιστές και δικαιώματα αντίστοιχα με εκείνα των εσωτερικών ομάδων αξιολόγησης κινδύνου, σύμφωνα με την ανακοίνωση. Αυτή η πρόσβαση επιτρέπει στους αξιολογητές να παρατηρούν τα μοντέλα κατά την εκπαίδευση, να παρακολουθούν τις αποφάσεις που διέπουν τον τρόπο κατασκευής και ανάπτυξης των μοντέλων και να συνομιλούν απευθείας με τους υπαλλήλους.unite

Το έργο θα καθοδηγείται από τη Faculty, μια εξειδικευμένη εταιρεία τεχνητής νοημοσύνης που εξαγοράστηκε από την Accenture, η οποία διαθέτει εμπειρία στη δοκιμή μοντέλων για κορυφαία εργαστήρια τεχνητής νοημοσύνης και στην κατασκευή συστημάτων για κυβερνητικούς και αμυντικούς πελάτες, συμπεριλαμβανομένου του Συστήματος Έγκαιρης Προειδοποίησης του Εθνικού Συστήματος Υγείας του Ηνωμένου Βασιλείου κατά τη διάρκεια της πανδημίας COVID-19.finance.yahoo

"Η ασφάλεια απαιτεί τόσο βαθιά τεχνική εμπειρογνωμοσύνη όσο και σαφή κατανόηση του τρόπου με τον οποίο η τεχνητή νοημοσύνη χρησιμοποιείται στον πραγματικό κόσμο", δήλωσε η Julie Sweet, πρόεδρος και διευθύνουσα σύμβουλος της Accenture. "Η ενσωματωμένη αξιολόγηση είναι ένας αναδυόμενος τομέας και ανυπομονούμε να συνεργαστούμε με την Anthropic για να βοηθήσουμε στην επιτάχυνση της ανάπτυξης ενσωματωμένων αξιολογητών".finance.yahoo

Διαφάνεια και δικαιώματα δημοσίευσης

Σύμφωνα με τους όρους που περιγράφονται σε δοκίμιο του Σεπτεμβρίου 2026 από τον διευθύνοντα σύμβουλο της Anthropic, Dario Amodei, με τίτλο "Πρέπει να ρυθμίσουμε τον ρυθμό των συνόρων", οι εξωτερικοί αξιολογητές θα έχουν το δικαίωμα να δημοσιεύουν ευρήματα σχετικά με τα επίπεδα κινδύνου, τα περιστατικά και τις πρακτικές χωρίς συντακτικό έλεγχο από την Anthropic. Η εταιρεία διατηρεί μια περιορισμένη δυνατότητα να διαγράφει υλικό που αφορά την ασφάλεια ή καλύπτεται από νομικό απόρρητο, αλλά δεν μπορεί να αποσιωπήσει δυσμενή συμπεράσματα. Οι αξιολογητές μπορούν να αποκαλύψουν δημόσια εάν μια διαγραφή αφαίρεσε κάτι ουσιώδες για τα ευρήματά τους.unite

Στο δοκίμιο, ο Amodei περιέγραψε ένα σχέδιο τριών βημάτων – ενσωματωμένοι αξιολογητές, συντονισμός μεταξύ εταιρειών τεχνητής νοημοσύνης σε δημοκρατικές χώρες και παγκόσμιος συντονισμός – και κάλεσε τις κυβερνήσεις να απαιτήσουν από άλλα εργαστήρια να υιοθετήσουν παρόμοια μέτρα. "Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης", έγραψε.unite

Μια μη αποκλειστική συμφωνία

Η συνεργασία δεν είναι αποκλειστική. Η Anthropic δήλωσε ότι σχεδιάζει να ανακοινώσει επιπλέον αξιολογητές τις επόμενες εβδομάδες και βρίσκεται σε διάλογο με το METR και άλλους μη κερδοσκοπικούς οργανισμούς για τη δοκιμή στοιχείων της ενσωματωμένης αξιολόγησης. Η συμφωνία επεκτείνει μια ευρύτερη σχέση που διαμορφώθηκε τον Δεκέμβριο του 2025, όταν οι δύο εταιρείες ξεκίνησαν το Accenture Anthropic Business Group και άρχισαν να εκπαιδεύουν περίπου 30.000 επαγγελματίες της Accenture στα μοντέλα Claude της Anthropic.unite

Η μετοχή της Accenture σημείωσε άνοδο στις αρχικές συναλλαγές μετά την ανακοίνωση.seekingalpha