Συλλογική αγωγή χρηστών του ChatGPT για την ανάγνωση συνομιλιών μέσω του «Project Lily»

Η OpenAI πληρώνει εκατοντάδες εξωτερικούς συνεργάτες με περισσότερα από 50 δολάρια την ώρα για να διαβάζουν, να συνοψίζουν και να βαθμολογούν πραγματικές συνομιλίες του ChatGPT στο πλαίσιο ενός εσωτερικού προγράμματος με την κωδική ονομασία Project Lily, όπως αποκάλυψε αυτή την εβδομάδα έρευνα του 404 Media, προκαλώντας την κατάθεση πρότασης συλλογικής αγωγής την Τετάρτη από δύο χρήστες του ChatGPT, οι οποίοι ισχυρίζονται ότι η εταιρεία τους παραπλάνησε σχετικά με το απόρρητο των συνομιλιών τους.404media+1

Μέσα στο Project Lily

Η έρευνα, η οποία δημοσιεύθηκε από τον δημοσιογράφο του 404 Media, Joseph Cox, στις 14 Σεπτεμβρίου και βασίζεται σε εσωτερικά έγγραφα που διέρρευσαν καθώς και σε πραγματικές ερωτήσεις χρηστών, περιγράφει μια δομημένη διαδικασία αξιολόγησης στην οποία οι συνεργάτες διαβάζουν την ερώτηση ενός χρήστη, συνοψίζουν την πρόθεσή του, συγκρίνουν τέσσερις απαντήσεις που παρήγαγε το ChatGPT και τις βαθμολογούν σε μια κλίμακα από το ένα έως το επτά. Οι αξιολογητές δεν ελέγχουν την ακρίβεια των γεγονότων. Αντίθετα, οι οδηγοί εκπαίδευσης που διέρρευσαν τους δίνουν οδηγίες να βαθμολογούν αρνητικά τη «γλώσσα τεχνητής νοημοσύνης» (AI-speak), να επισημαίνουν απαντήσεις όπου το chatbot ισχυρίζεται ότι είναι άνθρωπος και να τιμωρούν τις υπερβολικά κολακευτικές απαντήσεις, ένα μοτίβο συμπεριφοράς που η OpenAI έχει συνδέσει με πραγματική βλάβη σε άλλη δικαστική υπόθεση.aiweekly+2

Η OpenAI αφαιρεί τα ονόματα χρηστών και περνά τις ερωτήσεις από ένα αυτοματοποιημένο φίλτρο απορρήτου προτού αυτές φτάσουν στους αξιολογητές. Ωστόσο, η εταιρεία παραδέχτηκε στο 404 Media ότι το φίλτρο δεν είναι τέλειο. Οι εξωτερικοί συνεργάτες ανέφεραν ότι έβλεπαν μια «σύνοψη αναμνήσεων χρήστη» (user memories summary) να εμφανίζεται πάνω από τις ερωτήσεις που αξιολογούσαν, η οποία θα μπορούσε να αποκαλύψει το επάγγελμα, τη γενική τοποθεσία ή το προσωπικό υπόβαθρο ενός ατόμου, στοιχεία που προέρχονται από προηγούμενες συνομιλίες. «Δεν νομίζω ότι θα φαντάζονταν ότι κάποιος συνεργάτης κάπου αναλύει τις συνομιλίες τους», δήλωσε ένας εργαζόμενος στο 404 Media, αναφερόμενος στους περισσότερους από 900 εκατομμύρια χρήστες του ChatGPT.404media+2

Νομικές Συνέπειες

Οι αποκαλύψεις έχουν ήδη πυροδοτήσει νομικές ενέργειες. Σύμφωνα με το Law360, δύο χρήστες του ChatGPT κατέθεσαν την Τετάρτη πρόταση συλλογικής αγωγής κατά της OpenAI, ισχυριζόμενοι ότι η εταιρεία τους παραπλάνησε σχετικά με το πόσο ιδιωτικές ήταν οι συνομιλίες τους. Η αγωγή αυτή προστίθεται σε έναν αυξανόμενο κατάλογο δικαστικών υποθέσεων που αντιμετωπίζει η OpenAI, η οποία ήδη αμύνεται σε αγωγές για υπαίτιο θάνατο, αξιώσεις πνευματικής ιδιοκτησίας και μια ξεχωριστή υπόθεση απορρήτου στην Καλιφόρνια σχετικά με δεδομένα που κοινοποιήθηκαν σε τρίτους μέσω ενσωματωμένων εργαλείων παρακολούθησης.mediapost+2

Στην Ευρώπη, η αποκάλυψη αυτή επιτείνει την υπάρχουσα ρυθμιστική πίεση. Η αρχή προστασίας δεδομένων της Ιταλίας έχει ήδη επιβάλει πρόστιμο 15 εκατομμυρίων ευρώ στην OpenAI, κυρίως για την επεξεργασία δεδομένων χρηστών χωρίς επαρκή νομική βάση, ενώ η απόφαση του Δικαστηρίου της Ευρωπαϊκής Ένωσης στην υπόθεση EDPS κατά SRB όρισε ότι η υποχρέωση μιας εταιρείας να ενημερώνει τους χρήστες ισχύει κατά τη στιγμή της συλλογής των δεδομένων.thenextweb+1

Πώς να Εξαιρεθείτε

Οι δωρεάν λογαριασμοί, καθώς και οι λογαριασμοί Plus και Pro του ChatGPT έχουν ενεργοποιημένη από προεπιλογή τη ρύθμιση «Βελτίωση του μοντέλου για όλους» (Improve the model for everyone). Αυτό δεν ισχύει για τις εκδόσεις Enterprise, Business και Education. Οι χρήστες που επιθυμούν να αποτρέψουν τη μελλοντική πρόσβαση των αξιολογητών στις συνομιλίες τους πρέπει να απενεργοποιήσουν χειροκίνητα τη σχετική επιλογή στις Ρυθμίσεις και τα Στοιχεία Ελέγχου Δεδομένων, ωστόσο η εξαίρεση αυτή δεν έχει αναδρομική ισχύ, πράγμα που σημαίνει ότι παλαιότερες συνομιλίες ενδέχεται να εξακολουθούν να χρησιμοποιούνται.pcmag+1