OpenAI lanza globalmente una versión de ChatGPT para adolescentes

OpenAI presentó este martes ChatGPT para adolescentes, una versión dedicada de su chatbot diseñada para usuarios de 13 a 17 años que incluye controles parentales, salvaguardas de salud mental y herramientas destinadas a fomentar el pensamiento crítico sobre las respuestas rápidas. El producto comenzará a desplegarse a nivel global a partir de hoy.axios+1

El lanzamiento ocurre mientras OpenAI enfrenta múltiples demandas de familias que afirman que sus hijos sufrieron daños por sus interacciones con ChatGPT, y mientras la empresa se prepara para una oferta pública inicial dentro del próximo año.ft

Novedades para los adolescentes

La versión para adolescentes guía a los usuarios a resolver problemas en lugar de ofrecerles respuestas directamente. Un "modo de estudio" actualizado orienta a los jóvenes paso a paso, y los nuevos "recordatorios de tareas responsables" pueden detectar cuando un usuario parece estar tomando atajos en sus deberes. Padres y adolescentes también pueden programar "horas de estudio" en las que el modo de estudio se activa por defecto.theverge+1

Las restricciones de contenido son más estrictas en relación con las autolesiones, los trastornos alimentarios, la violencia y el material explícito. ChatGPT no utilizará lenguaje romántico ni expresiones de afecto con usuarios adolescentes y recibirá "instrucciones más firmes de no sugerir que posee sentimientos, conciencia o emociones", según OpenAI, en un esfuerzo por reducir la dependencia emocional.axios

Los adolescentes también recibirán recordatorios de descanso más frecuentes durante sesiones prolongadas, incluyendo avisos de que están interactuando con una inteligencia artificial y no con una persona. Los padres podrán fijar "horas de silencio" durante las cuales el chatbot permanecerá completamente bloqueado, y recibirán notificaciones de seguridad si el sistema detecta conversaciones sobre suicidio, autolesiones, trastornos alimentarios o violencia.ft+1

Por qué es importante

Los usuarios que indiquen tener entre 13 y 17 años, así como aquellos que el sistema de estimación de edad de OpenAI considere menores de 18 años, entrarán automáticamente en la experiencia para adolescentes.theverge

"Si no construyes un espacio seguro para ellos, van a recurrir a una experiencia de modelo menos segura", afirmó Lauren Jonas, responsable de juventud y familias en OpenAI. Jonas declaró al Financial Times que OpenAI "no vio un problema de uso problemático ni de uso prolongado en ChatGPT en este momento", pero ha "adoptado un enfoque conservador" dada la falta de investigación sobre el tema.axios+1

Contexto general

El lanzamiento se produce en medio de un mayor escrutinio sobre los efectos de la IA en los jóvenes. OpenAI ha sido demandada por la familia de un adolescente de 16 años de California que falleció por suicidio tras hablar sobre acabar con su vida con el chatbot. Los críticos mantienen su escepticismo sobre la efectividad de estas protecciones. "Los compañeros sociales de IA no son seguros para los niños", señaló en un comunicado el año pasado Jim Steyer, fundador de Common Sense Media. "Están diseñados para crear apego emocional y dependencia, lo que resulta especialmente preocupante para los cerebros adolescentes en desarrollo".ft+1

La semana pasada, Google Alphabet Inc. ↘ 0.73% habilitó su chatbot Gemini dentro de Google Classroom para escuelas de educación primaria y secundaria, lo que subraya la rapidez con la que las herramientas de IA están llegando a los usuarios más jóvenes tanto a través de canales de consumo como educativos.axios