Des sous-traitants d’OpenAI lisent des chats ChatGPT réels dans le cadre du Projet Lily

Des centaines de sous-traitants externes embauchés par OpenAI lisent des conversations réelles de ChatGPT dans le cadre d'une initiative interne baptisée Projet Lily, selon une enquête de 404 Media qui soulève de nouvelles questions sur la confidentialité des plus de 900 millions d'utilisateurs de ChatGPT.

Les sous-traitants, payés plus de 50 dollars de l'heure via des agences de recrutement, lisent les requêtes des utilisateurs, résument leur intention, puis notent quatre réponses générées par ChatGPT sur une échelle de un à sept. L'objectif est de rendre le chatbot moins robotique, moins obséquieux et plus naturel, mais ce processus signifie que des détails personnels sensibles partagés dans ce que beaucoup d'utilisateurs considèrent comme des conversations privées peuvent finir sous les yeux d'humains.404media

Ce que voient les sous-traitants

Des documents internes et des guides d'instructions obtenus par 404 Media révèlent que le tableau de bord des sous-traitants inclut parfois un résumé des souvenirs de l'utilisateur, un aperçu de ce dont l'utilisateur a discuté précédemment avec ChatGPT, ce qui peut révéler sa localisation approximative, sa profession ou sa situation personnelle. OpenAI affirme supprimer les noms d'utilisateur et faire passer les conversations par un filtre de confidentialité automatisé avant qu'elles n'atteignent les réviseurs, mais l'entreprise reconnaît que le filtre peut manquer des identifiants inhabituels ou des références privées ambiguës.404media

Certains prompts vus par les sous-traitants montraient des utilisateurs demandant à ChatGPT de garder cela entre nous, ignorant que de telles instructions ne prévalent pas sur les pratiques de collecte de données de la plateforme. Non, a déclaré un sous-traitant à 404 Media lorsqu'on lui a demandé si les utilisateurs de ChatGPT se rendaient compte que des humains pouvaient lire leurs chats. Je ne pense pas qu'ils imagineraient qu'un sous-traitant quelque part analyse leurs conversations.tomsguide+1

Règles d'entraînement et pratiques de l'industrie

Les guides d'instructions demandent aux réviseurs de pénaliser le langage artificiel, comme l'utilisation inutile d'emojis, de signaler les réponses où ChatGPT prétend avoir des expériences humaines et de marquer le langage obséquieux, un problème connu lié à des poursuites alléguant qu'un modèle ChatGPT trop complaisant a contribué à nuire aux utilisateurs. Les réviseurs ne sont pas censés vérifier les faits, mais sont invités à signaler les erreurs factuelles qu'ils remarquent et à escalader les tâches contenant des informations personnelles ou des problèmes de sécurité.404media

Cette pratique n'est pas unique à OpenAI. Anthropic a confirmé à 404 Media qu'il utilise la révision humaine pour améliorer Claude lorsque les utilisateurs laissent l'entraînement activé, et Gemini de Google Alphabet Inc. ↘ 1.24% affiche une clause de non-responsabilité indiquant que des humains examinent certains chats enregistrés.tomsguide+1

Comment se désinscrire

Pour les comptes ChatGPT gratuits, Plus et Pro, l'amélioration du modèle est activée par défaut. Les utilisateurs peuvent la désactiver en accédant aux paramètres, en sélectionnant les contrôles de données et en désactivant Améliorer le modèle pour tout le monde. Les comptes Enterprise, Business et Edu ont ce paramètre désactivé par défaut. Le désabonnement ne s'applique qu'aux nouvelles conversations; les prompts déjà désidentifiés et en file d'attente restent dans le pipeline d'entraînement.tomsguide+1

Après que 404 Media a contacté l'entreprise, OpenAI a mis à jour sa page d'aide pour ajouter plus de détails sur le processus de désinscription, bien qu'elle ne reconnaisse toujours pas explicitement que des humains peuvent lire les prompts des utilisateurs.404media