Usuarios de ChatGPT demandan a OpenAI por revisar chats en el «Proyecto Lily»

OpenAI ha estado pagando a cientos de contratistas más de 50 dólares por hora para leer, resumir y calificar conversaciones reales de ChatGPT como parte de un programa interno con el nombre en clave Project Lily, según reveló esta semana una investigación de 404 Media, lo que provocó una propuesta de demanda colectiva presentada el miércoles por dos usuarios de ChatGPT que alegan que la empresa los engañó sobre la privacidad de sus conversaciones.404media+1

Dentro de Project Lily

La investigación, publicada por el periodista de 404 Media Joseph Cox el 14 de septiembre y basada en documentos internos filtrados y prompts de usuarios reales, describe un proceso estructurado de revisión en el que los contratistas leen el prompt de un usuario, resumen su intención, comparan cuatro respuestas generadas por ChatGPT y las califican en una escala del uno al siete. Los revisores no comprueban la exactitud de los hechos. En su lugar, las guías de capacitación filtradas les instruyen a penalizar el "lenguaje de IA", señalar las respuestas en las que el chatbot afirma ser humano y castigar las respuestas excesivamente aduladoras, un patrón de comportamiento que OpenAI ha vinculado con daños en el mundo real en otros litigios.aiweekly+2

OpenAI elimina los nombres de usuario y pasa los prompts por un filtro de privacidad automatizado antes de que lleguen a los revisores. Sin embargo, la empresa reconoció a 404 Media que el filtro es imperfecto. Los contratistas informaron haber visto un "resumen de recuerdos del usuario" que se mostraba encima de los prompts que revisaban, lo que podría exponer la profesión, la ubicación general o los antecedentes personales de una persona extraídos de conversaciones anteriores. "No creo que se imaginen que un contratista en algún lugar está analizando las conversaciones", dijo un trabajador a 404 Media, refiriéndose a los más de 900 millones de usuarios de ChatGPT.404media+2

Consecuencias legales

Las revelaciones ya han desencadenado acciones legales. Según Law360, un par de usuarios de ChatGPT presentaron el miércoles una propuesta de demanda colectiva contra OpenAI, alegando que la empresa los engañó sobre la privacidad de sus conversaciones. La demanda se suma a una creciente lista de litigios que enfrenta OpenAI, que ya se defiende de demandas por homicidio culposo, reclamos de derechos de autor y un caso de privacidad independiente en California sobre datos compartidos con terceros a través de herramientas de seguimiento integradas.mediapost+2

En Europa, la revelación agrava la presión regulatoria existente. La autoridad de protección de datos de Italia ya ha multado a OpenAI con 15 millones de euros, principalmente por procesar datos de usuarios sin una base legal adecuada, y el fallo del Tribunal de Justicia en el caso EDPS contra SRB estableció que el deber de una empresa de informar a los usuarios se aplica en el momento de la recopilación de datos.thenextweb+1

Cómo excluirse

Las cuentas gratuitas, Plus y Pro de ChatGPT tienen activada por defecto la opción "Mejorar el modelo para todos"; los planes Enterprise, Business y Education no la tienen. Los usuarios que deseen evitar que sus futuras conversaciones lleguen a los revisores deben desactivar manualmente la opción en Configuración y Controles de datos, pero la exclusión no es retroactiva, lo que significa que las conversaciones anteriores aún podrían utilizarse.pcmag+1