Η Anthropic κυκλοφόρησε εργαλείο για την επαλήθευση της ταυτότητας των μοντέλων AI

Η Anthropic κυκλοφόρησε το FlashProve, ένα ερευνητικό πρωτότυπο ανοιχτού κώδικα που χρησιμοποιεί κρυπτογραφία για να αποδείξει ποιο μοντέλο AI παρήγαγε μια συγκεκριμένη απάντηση, χωρίς να αποκαλύπτει τα βάρη του μοντέλου. Η εταιρεία δημοσίευσε τον κώδικα στο GitHub αυτή την εβδομάδα, αλλά διευκρινίζει ότι δεν έχει σχέδια για την ανάπτυξη του συστήματος, ούτε στην ίδια την Anthropic ούτε αλλού.techcrunch.com

Η εργασία αυτή στοχεύει σε ένα βασικό κενό εμπιστοσύνης. Ένας χρήστης που καλεί μια υπηρεσία AI συνήθως δεν μπορεί να επιβεβαιώσει ότι το μοντέλο για το οποίο πλήρωσε απάντησε όντως, ή ότι μια υπηρεσία δρομολόγησης δεν αντικατέστησε κρυφά το μοντέλο με ένα φθηνότερο. Στην ανακοίνωσή της, η Anthropic ανέφερε ότι οι αποδείξεις θα μπορούσαν να καταστήσουν δυσκολότερη την υποκλοπή μιας συνομιλίας από επιτιθέμενους ή να επιτρέψουν στους αξιολογητές ασφαλείας να επαληθεύσουν ότι το μοντέλο που δοκιμάζουν είναι το ίδιο με αυτό που παρέχεται στους πελάτες.marktechpost.com+1

Πώς λειτουργεί

Το FlashProve βασίζεται σε ένα είδος κρυπτογραφικής απόδειξης που ονομάζεται zkSNARK και λειτουργεί σε δύο φάσεις. Στην offline φάση, ο πάροχος του μοντέλου δημοσιεύει μια δέσμευση, η οποία είναι ένα σύντομο αποτύπωμα συνδεδεμένο με ένα ακριβές σύνολο βαρών, ενώ τα βάρη παραμένουν κρυφά. Στην online φάση, ο πάροχος δημιουργεί μια απόδειξη για κάθε απάντηση, δείχνοντας ότι το δεσμευμένο μοντέλο παρήγαγε αυτά τα συγκεκριμένα tokens. Όποιος διαθέτει τη δέσμευση, το prompt και την απάντηση μπορεί να ελέγξει την απόδειξη. Επειδή το αποτύπωμα δεν εκθέτει τα βάρη, οι κατασκευαστές κλειστών μοντέλων θα μπορούσαν να χρησιμοποιήσουν το σύστημα με εμπορικά μοντέλα.anthropic.com+1

Η Anthropic δοκίμασε το FlashProve στο μοντέλο Llama 4 Maverick της Meta ↗ 1.44%, ένα μοντέλο mixture-of-experts 400 δισεκατομμυρίων παραμέτρων. Μια μόνο Nvidia ↘ 3.17% H100 παρήγαγε αποδείξεις με ταχύτητα άνω των 100 tokens ανά δευτερόλεπτο, και κάθε απόδειξη ήταν περίπου 19 MB για ένα αίτημα 1.024 tokens. Η επαλήθευση εκτελείται σε έναν κοινό επεξεργαστή και διαρκεί 17 δευτερόλεπτα με 24 νήματα. Η ορθότητα του πρωτοκόλλου έχει αποδειχθεί επίσημα στη γλώσσα απόδειξης Lean 4.github.com+2

Περιορισμοί και επόμενα βήματα

Το πρωτότυπο εξακολουθεί να έχει σαφείς περιορισμούς. Η διαδικασία απόδειξης απαιτεί περίπου 70 έως 95 φορές περισσότερο χρόνο GPU από την τυπική συμπερασματική διαδικασία vLLM. Το πλαίσιο περιορίζεται στα 1.024 tokens, ένα αίτημα μπορεί να περιμένει περίπου πέντε λεπτά για να αποδειχθεί η παρτίδα του, και οι εγγυήσεις καλύπτουν μόνο την άπληστη αποκωδικοποίηση (greedy decoding), όχι την δειγματοληπτική έξοδο. Το αποθετήριο στο GitHub, που κυκλοφόρησε υπό την άδεια Apache 2.0, χαρακτηρίζεται ως ερευνητικό τεχνούργημα που δεν συντηρείται και δεν δέχεται συνεισφορές.tech.yahoo.com+3

Η ομάδα Frontier Red Team της Anthropic δημιούργησε το σύστημα με εξωτερικούς κρυπτογράφους, συμπεριλαμβανομένου του Alessandro Chiesa. Οι ερευνητές περιγράφουν την κυκλοφορία ως πρόσκληση και όχι ως τελικό προϊόν. Μοιραζόμαστε αυτό το έργο με τον στόχο να το εξετάσουν άλλοι, να το πάρουν και να το βελτιώσουν, ανέφεραν χαρακτηριστικά.x.com+1