Εργολάβοι της OpenAI διαβάζουν πραγματικές συνομιλίες στο ChatGPT στο πλαίσιο του μυστικού Project Lily

Εκατοντάδες εξωτερικοί εργολάβοι που προσλήφθηκαν από την OpenAI διαβάζουν πραγματικές συνομιλίες του ChatGPT ως μέρος μιας εσωτερικής πρωτοβουλίας με την κωδική ονομασία "Project Lily", σύμφωνα με έρευνα του 404 Media που εγείρει νέα ερωτήματα σχετικά με την ιδιωτικότητα των περισσότερων από 900 εκατομμυρίων χρηστών του ChatGPT.

Οι εργολάβοι, οι οποίοι πληρώνονται με περισσότερα από 50 δολάρια την ώρα μέσω τρίτων εταιρειών, διαβάζουν τα prompts των χρηστών, συνοψίζουν την πρόθεση του χρήστη και στη συνέχεια βαθμολογούν τέσσερις απαντήσεις που παράγονται από το ChatGPT σε μια κλίμακα από το ένα έως το επτά. Ο στόχος είναι το chatbot να ακούγεται λιγότερο ρομποτικό, λιγότερο δουλικό και πιο φυσικό, αλλά η διαδικασία σημαίνει ότι ευαίσθητες προσωπικές λεπτομέρειες που μοιράζονται οι χρήστες σε αυτό που θεωρούν ιδιωτικές συνομιλίες μπορεί να καταλήξουν μπροστά σε ανθρώπινα μάτια.404media

Τι βλέπουν οι εργολάβοι

Εσωτερικά έγγραφα και οδηγοί οδηγιών που περιήλθαν στην κατοχή του 404 Media αποκαλύπτουν ότι το ταμπλό των εργολάβων περιλαμβάνει μερικές φορές μια "σύνοψη αναμνήσεων χρήστη" (user memories summary), μια επισκόπηση του τι έχει συζητήσει προηγουμένως ένας χρήστης με το ChatGPT, η οποία μπορεί να αποκαλύψει την κατά προσέγγιση τοποθεσία, το επάγγελμα ή τις προσωπικές του συνθήκες. Η OpenAI δηλώνει ότι αφαιρεί τα ονόματα χρηστών και περνά τις συνομιλίες από ένα αυτοματοποιημένο "Φίλτρο Απορρήτου" πριν φτάσουν στους αξιολογητές, αλλά η εταιρεία παραδέχεται ότι το φίλτρο "μπορεί να παραλείψει ασυνήθιστα αναγνωριστικά ή ασαφείς ιδιωτικές αναφορές".404media

Ορισμένα prompts που είδαν οι εργολάβοι έδειχναν χρήστες να ζητούν από το ChatGPT να "κρατήσει αυτό μεταξύ μας", αγνοώντας ότι τέτοιες οδηγίες δεν υπερισχύουν των πρακτικών συλλογής δεδομένων της πλατφόρμας. "Όχι", είπε ένας εργολάβος στο 404 Media όταν ρωτήθηκε αν οι χρήστες του ChatGPT συνειδητοποιούν ότι άνθρωποι μπορεί να διαβάζουν τις συνομιλίες τους. "Δεν νομίζω ότι θα φαντάζονταν ότι κάποιος εργολάβος κάπου αναλύει τις συνομιλίες".tomsguide+1

Κανόνες εκπαίδευσης και πρακτικές του κλάδου

Οι οδηγοί οδηγιών λένε στους αξιολογητές να τιμωρούν τη γλώσσα που θυμίζει "τεχνητή νοημοσύνη" (AI-speak), όπως η περιττή χρήση emoji, να επισημαίνουν απαντήσεις όπου το ChatGPT ισχυρίζεται ότι έχει ανθρώπινες εμπειρίες και να επισημαίνουν τη δουλική γλώσσα, ένα γνωστό πρόβλημα που συνδέεται με αγωγές που υποστηρίζουν ότι ένα υπερβολικά συγκαταβατικό μοντέλο ChatGPT συνέβαλε σε βλάβη των χρηστών. Οι αξιολογητές δεν αναμένεται να ελέγχουν την ακρίβεια των απαντήσεων, αλλά τους ζητείται να επισημαίνουν πραγματικά λάθη που παρατηρούν και να κλιμακώνουν εργασίες που περιέχουν προσωπικές πληροφορίες ή ανησυχίες για την ασφάλεια.404media

Η πρακτική αυτή δεν είναι μοναδική για την OpenAI. Η Anthropic επιβεβαίωσε στο 404 Media ότι χρησιμοποιεί ανθρώπινη αξιολόγηση για τη βελτίωση του Claude όταν οι χρήστες αφήνουν την εκπαίδευση ενεργοποιημένη, και το Gemini της Alphabet Inc. ↗ 2.89% εμφανίζει μια αποποίηση ευθύνης ότι "άνθρωποι αξιολογούν ορισμένες αποθηκευμένες συνομιλίες".tomsguide+1

Πώς να εξαιρεθείτε

Για τους δωρεάν λογαριασμούς, καθώς και τους λογαριασμούς Plus και Pro του ChatGPT, η βελτίωση του μοντέλου είναι ενεργοποιημένη από προετοιμασία. Οι χρήστες μπορούν να την απενεργοποιήσουν μεταβαίνοντας στις Ρυθμίσεις, επιλέγοντας Έλεγχοι Δεδομένων και απενεργοποιώντας την επιλογή "Βελτίωση του μοντέλου για όλους". Οι λογαριασμοί Enterprise, Business και Edu έχουν τη ρύθμιση απενεργοποιημένη από προεπιλογή. Η εξαίρεση ισχύει μόνο για νέες συνομιλίες, καθώς τα prompts που έχουν ήδη αποταυτοποιηθεί και βρίσκονται στην ουρά παραμένουν στη διαδικασία εκπαίδευσης.tomsguide+1

Αφού το 404 Media επικοινώνησε με την εταιρεία, η OpenAI ενημέρωσε τη σελίδα βοήθειας για να προσθέσει περισσότερες λεπτομέρειες σχετικά με τη διαδικασία εξαίρεσης, αν και εξακολουθεί να μην αναγνωρίζει ρητά ότι άνθρωποι μπορεί να διαβάζουν τα prompts των χρηστών.404media