Contratistas de OpenAI leen chats reales de ChatGPT bajo el secreto Proyecto Lily

Cientos de contratistas externos contratados por OpenAI están leyendo conversaciones reales de ChatGPT como parte de una iniciativa interna denominada Proyecto Lily, según una investigación de 404 Media que plantea nuevas dudas sobre la privacidad de los más de 900 millones de usuarios de ChatGPT.

Los contratistas, a quienes se les paga más de 50 dólares la hora a través de agencias de personal, leen las consultas de los usuarios, resumen su intención y califican cuatro respuestas generadas por ChatGPT en una escala del uno al siete. El objetivo es que el chatbot suene menos robótico, menos servil y más natural, pero el proceso implica que detalles personales sensibles, compartidos en lo que muchos usuarios consideran conversaciones privadas, pueden terminar siendo vistos por ojos humanos.404media

Lo que ven los contratistas

Documentos internos e instrucciones obtenidos por 404 Media revelan que el panel de los contratistas incluye a veces un resumen de memorias del usuario, una visión general de lo que el usuario ha discutido previamente con ChatGPT, lo cual puede revelar su ubicación aproximada, profesión o circunstancias personales. OpenAI asegura que elimina los nombres de usuario y procesa las conversaciones a través de un filtro de privacidad automatizado antes de que lleguen a los revisores, pero la empresa admite que el filtro puede pasar por alto identificadores poco comunes o referencias privadas ambiguas.404media

Algunos prompts vistos por los contratistas mostraban a usuarios pidiendo a ChatGPT que mantuviera el secreto, sin saber que tales instrucciones no anulan las prácticas de recopilación de datos de la plataforma. No, dijo un contratista a 404 Media al ser preguntado si los usuarios de ChatGPT saben que hay humanos leyendo sus chats. No creo que imaginen que un contratista en algún lugar está analizando sus conversaciones.tomsguide+1

Reglas de entrenamiento y prácticas del sector

Las guías de instrucciones indican a los revisores que penalicen el lenguaje artificial, como el uso innecesario de emojis, que marquen las respuestas donde ChatGPT afirma tener experiencias humanas y que señalen el lenguaje servil, un problema conocido vinculado a demandas que alegan que un modelo de ChatGPT excesivamente complaciente contribuyó a daños a los usuarios. No se espera que los revisores verifiquen los hechos, pero se les pide que marquen errores factuales y escalen tareas que contengan información personal o preocupaciones de seguridad.404media

Esta práctica no es exclusiva de OpenAI. Anthropic confirmó a 404 Media que utiliza revisión humana para mejorar Claude cuando los usuarios mantienen activado el entrenamiento, y Gemini de Alphabet Inc. ↗ 0.78% muestra un aviso de que humanos revisan algunos chats guardados.tomsguide+1

Cómo desactivar esta opción

Para las cuentas gratuitas, Plus y Pro de ChatGPT, la mejora del modelo está activada por defecto. Los usuarios pueden desactivarla yendo a Configuración, seleccionando Controles de datos y desactivando Mejorar el modelo para todos. Las cuentas Enterprise, Business y Edu tienen esta opción desactivada por defecto. La exclusión solo se aplica a nuevas conversaciones; los prompts ya desidentificados y en cola permanecen en el proceso de entrenamiento.tomsguide+1

Después de que 404 Media contactara a la empresa, OpenAI actualizó su página de ayuda para añadir más detalles sobre el proceso de exclusión, aunque todavía no reconoce explícitamente que los humanos puedan leer los prompts de los usuarios.404media