Η Anthropic ζητά νομικές συμβουλές για τις διαπραγματεύσεις μέσω πρακτόρων AI

Η Anthropic ζητά νομικές συμβουλές για ένα πρωτόγνωρο ζήτημα: πώς ένας πράκτορας τεχνητής νοημοσύνης πρέπει να διαπραγματεύεται για λογαριασμό του χρήστη που εκπροσωπεί. Οι Financial Times ανέφεραν τις συνομιλίες την Κυριακή 18 Οκτωβρίου, επικαλούμενοι δύο άτομα με γνώση των σχεδίων της εταιρείας. Σύμφωνα με το NDTV Profit, η Anthropic επιδιώκει να κατανοήσει πώς οι δικηγόροι εκπροσωπούν τους πελάτες τους διατηρώντας παράλληλα το δίκαιο των αποτελεσμάτων. Η Anthropic αρνήθηκε να σχολιάσει.ft.com+1

Το ζήτημα είναι κρίσιμο, καθώς οι προγραμματιστές AI αναμένουν ότι οι προσωπικοί πράκτορες θα αναλαμβάνουν τη διαπραγμάτευση τιμών, την επίλυση διαφορών εξυπηρέτησης πελατών και τη διαπραγμάτευση μισθών. Σε αυτές τις συνομιλίες, η άλλη πλευρά θα είναι συχνά ένας άλλος πράκτορας με ανταγωνιστικούς στόχους.

Κανόνες, εποπτεία και υπογεγραμμένες εντολές

Πηγές αναφέρουν ότι η Anthropic μελετά τους «κανόνες διαπραγμάτευσης» για περιπτώσεις όπου τα συστήματα AI εκπροσωπούν χρήστες με αντικρουόμενα συμφέροντα, σημειώνει το NDTV Profit. Η εταιρεία εξετάζει επίσης τη συχνότητα με την οποία οι πράκτορες πρέπει να επικοινωνούν με τους ανθρώπους κατά τη διάρκεια μιας διαπραγμάτευσης. Ένα άλλο ερώτημα είναι το πόσο επιφυλακτικοί πρέπει να είναι απέναντι σε άλλα συστήματα AI χωρίς να γίνονται «παρανοϊκοί», σύμφωνα με την Capital Futures. Μια ιδέα υπό εξέταση αφορά την παροχή ψηφιακά υπογεγραμμένων εγγράφων από τους χρήστες, τα οποία θα επιβεβαιώνουν τις οδηγίες, τους στόχους και τους κανόνες που πρέπει να ακολουθούν οι πράκτορες.ndtvprofit.com+1

Πειράματα με πραγματικά αγαθά

Η Anthropic έχει ήδη δημοσιεύσει δύο πειράματα αγοράς. Στο Project Deal, πράκτορες Claude που εκπροσωπούσαν 69 υπαλλήλους στα γραφεία της στο Σαν Φρανσίσκο πραγματοποίησαν 186 συμφωνίες για πάνω από 500 είδη, συνολικής αξίας άνω των 4.000 δολαρίων. Η εταιρεία διαπίστωσε ότι οι πράκτορες που χρησιμοποιούσαν το ισχυρότερο μοντέλο Opus πέτυχαν καλύτερες συμφωνίες από εκείνους που βασίζονταν στο μικρότερο μοντέλο Haiku, σύμφωνα με την ανακοίνωση της Anthropic.anthropic.com+1

Μια συμπληρωματική μελέτη, το Project Swap, δημοσιεύθηκε στις 24 Σεπτεμβρίου. Σε αυτήν, πράκτορες για 201 υπαλλήλους σε έξι γραφεία συμμετείχαν σε ανταλλαγή βιβλίων. Στους μισούς πράκτορες δόθηκε η εντολή να είναι «αδίστακτοι» και στους άλλους μισούς «κοινωνικοί». Η Anthropic διαπίστωσε ότι το μοντέλο στο οποίο βασιζόταν ο πράκτορας είχε μεγαλύτερη σημασία για τα αποτελέσματα από τις οδηγίες που έλαβε. Οι πράκτορες με εντολή να είναι αδίστακτοι τα πήγαν ελαφρώς καλύτερα, ενώ οι συνεργατικοί αποδέχονταν μερικές φορές λιγότερο επιθυμητά βιβλία ώστε όλοι οι συμμετέχοντες να αποκτήσουν από ένα, σημείωσε το NDTV Profit.anthropic.com+1

Κίνδυνοι χειραγώγησης και άνιση πρόσβαση

Εξωτερικοί ερευνητές επισημαίνουν τους κινδύνους. Η Michelle Vaccaro, επίκουρη καθηγήτρια στο Harvard Business School, διεξήγαγε πάνω από 180.000 διαπραγματεύσεις μεταξύ πρακτόρων AI. Σε μία περίπτωση, ένας πράκτορας προσπάθησε να αποσπάσει εμπιστευτικές πληροφορίες από ένα άλλο σύστημα μέσω prompt injection, μια τεχνική που κρύβει οδηγίες μέσα στο κείμενο που διαβάζει ένα AI, ανέφερε το NDTV Profit. Η Vaccaro δήλωσε ότι τα εργαλεία αυτά θα μπορούσαν να προσφέρουν σε άτομα που δεν έχουν την οικονομική δυνατότητα για επαγγελματίες διαπραγματευτές πρόσβαση σε παρόμοιες δεξιότητες. Ωστόσο, εάν τα καλύτερα συστήματα παραμείνουν κυρίως στους πλουσιότερους χρήστες, θα μπορούσαν να διευρύνουν το χάσμα.ndtvprofit.com

Η ίδια η Anthropic έγραψε νωρίτερα φέτος ότι «τα πολιτικά και νομικά πλαίσια γύρω από τα μοντέλα AI που συναλλάσσονται για λογαριασμό μας απλώς δεν υπάρχουν ακόμα» και ότι «η κοινωνία θα πρέπει να κινηθεί γρήγορα για να αντιμετωπίσει αυτές τις αλλαγές».ndtvprofit.com