ChatGPT : OpenAI visé par une action de groupe pour avoir fait lire des conversations privées

OpenAI paie des centaines de sous-traitants plus de 50 dollars de l'heure pour lire, résumer et évaluer de vraies conversations ChatGPT dans le cadre d'un programme interne nommé Project Lily, a révélé cette semaine une enquête de 404 Media. Cette révélation a déclenché le dépôt, mercredi, d'un projet d'action de groupe par deux utilisateurs de ChatGPT qui accusent l'entreprise de les avoir trompés sur la confidentialité de leurs échanges.404media+1

Les coulisses du Project Lily

L'enquête, publiée le 14 septembre par le journaliste de 404 Media Joseph Cox et basée sur des documents internes divulgués ainsi que sur de vraies requêtes d'utilisateurs, décrit un processus d'évaluation structuré. Les sous-traitants y lisent la requête d'un utilisateur, résument son intention, comparent quatre réponses générées par ChatGPT et les notent sur une échelle de un à sept. Les réviseurs ne vérifient pas l'exactitude des faits. Au lieu de cela, les guides de formation divulgués leur demandent de pénaliser le "parler IA", de signaler les réponses où le chatbot prétend être humain et de sanctionner les réponses trop flatteuses, un comportement qu'OpenAI a lui-même associé à des préjudices réels dans d'autres litiges.aiweekly+2

OpenAI supprime les noms d'utilisateur et soumet les requêtes à un filtre de confidentialité automatisé avant qu'elles n'atteignent les réviseurs. Cependant, l'entreprise a reconnu auprès de 404 Media que ce filtre est imparfait. Des sous-traitants ont rapporté avoir vu un "résumé des souvenirs de l'utilisateur" s'afficher au-dessus des requêtes évaluées, ce qui pourrait exposer la profession, la localisation générale ou le parcours personnel d'une personne, tirés de conversations antérieures. "Je ne pense pas qu'ils imaginent qu'un sous-traitant, quelque part, est en train d'analyser leurs conversations", a confié un travailleur à 404 Media, faisant référence aux plus de 900 millions d'utilisateurs de ChatGPT.404media+2

Retombées judiciaires

Ces révélations ont déjà déclenché des poursuites judiciaires. Selon Law360, deux utilisateurs de ChatGPT ont déposé mercredi un projet d'action de groupe contre OpenAI, affirmant que l'entreprise les avait induits en erreur sur le caractère privé de leurs conversations. Cette plainte s'ajoute à une liste croissante de litiges pour OpenAI, qui doit déjà faire face à des poursuites pour homicide involontaire, des plaintes pour violation du droit d'auteur et une autre affaire de confidentialité en Californie concernant des données partagées avec des tiers via des outils de suivi intégrés.mediapost+2

En Europe, ces révélations accentuent la pression réglementaire. L'autorité italienne de protection des données a déjà infligé une amende de 15 millions d'euros à OpenAI, principalement pour avoir traité des données d'utilisateurs sans base juridique adéquate, tandis que l'arrêt de la Cour de justice dans l'affaire EDPS contre SRB a établi que l'obligation d'information d'une entreprise s'applique dès la collecte des données.thenextweb+1

Comment s'opposer au partage

Les comptes ChatGPT gratuits, Plus et Pro ont l'option "Améliorer le modèle pour tout le monde" activée par défaut, contrairement aux offres Enterprise, Business et Education. Les utilisateurs qui souhaitent empêcher que leurs futures conversations soient transmises à des réviseurs doivent désactiver manuellement cette option dans les Paramètres et le Contrôle des données. Attention toutefois, cette désactivation n'est pas rétroactive, ce qui signifie que les conversations passées peuvent toujours être utilisées.pcmag+1