Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

openai.com.openai.com.techcrunch.com.OpenAI lanzó el lunes 16 de noviembre un clasificador de imágenes gratuito que detecta material de abuso sexual infantil (CSAM), incluyendo imágenes generadas por IA. También añadió advertencias en ChatGPT que suspenden el acceso por 24 horas cuando alguien intenta obtener contenido abusivo. La empresa señaló que estas medidas se basan en su Plan de Seguridad Infantil. El paquete incluye además guías para desarrolladores y nuevas herramientas de IA para investigadores de seguridad infantil en las fuerzas del orden.openai.com
OpenAI entrenó y evaluó el clasificador con la ayuda del Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), la organización sin fines de lucro que gestiona la CyberTipline. La compañía lo denomina el primer clasificador de CSAM ampliamente disponible con una señal específica para determinar si el material puede ser generado por IA. La herramienta busca signos visuales de abuso en imágenes inéditas y asigna una puntuación para que los revisores prioricen cuáles analizar. Las organizaciones verificadas pueden usarlo a través de la API de OpenAI sin costo alguno.openai.com
En una prueba interna con imágenes subidas por usuarios, OpenAI estimó que el nuevo clasificador marcaría un 48% menos de imágenes que su herramienta actual, manteniendo la misma tasa de detección de contenido abusivo. Las imágenes marcadas tuvieron el doble de probabilidades de contener abuso. Los socios iniciales compartieron sus resultados: en fal, los revisores confirmaron el 72% de las alertas de alta confianza como nuevo CSAM. SafetyKit detectó el 90% de dibujos o animaciones que sexualizan a menores. OpenAI indicó que colabora con Tech Coalition y ROOST para ampliar el acceso.techcrunch.com+1
Hasta ahora, OpenAI dependía de la comparación de hashes y del clasificador de CSAM de Thorn para escanear archivos subidos. En la primera mitad de 2026, envió 126,597 informes a la CyberTipline del NCMEC.openai.com+1
ChatGPT intervendrá cuando alguien intente buscar material abusivo. Mostrará una advertencia indicando que sexualizar a menores causa daño, incluso si el material es generado por IA. OpenAI eliminará la conversación y pausará el acceso a ChatGPT por 24 horas, dirigiendo al usuario a ayuda especializada. Las violaciones reiteradas pueden conllevar restricciones más largas, cierre de cuentas o denuncias a las autoridades. Este enfoque fue diseñado junto a Protect Children, la Fundación Lucy Faithfull e investigadores que evaluaron una prueba de mensajes disuasorios.openai.com
OpenAI también publicó una guía sobre CSAM para desarrolladores, redactada con aportes de Thorn, NCMEC y la Internet Watch Foundation. Para las unidades policiales de seguridad infantil, la empresa está añadiendo complementos, herramientas de investigación y capacitación. La primera herramienta ayuda a los investigadores a revisar registros de chat extensos y respuestas legales, detectar posibles conexiones y establecer cronologías.developers.openai.com
El lanzamiento se produce en un momento de creciente escrutinio sobre la seguridad infantil en empresas de IA. TechCrunch señaló que OpenAI enfrenta varias demandas que culpan a su tecnología de dañar a usuarios, especialmente niños. También destacó que otros chatbots, incluido, han sido utilizados para crear imágenes sexualizadas sin consentimiento, algunas de las cuales involucran a menores.techcrunch.com