OpenAI lanzó el lunes 16 de noviembre un clasificador de imágenes gratuito que detecta material de abuso sexual infantil (CSAM), incluyendo imágenes generadas por IA. También añadió advertencias en ChatGPT que suspenden el acceso por 24 horas cuando alguien intenta…
OpenAI lanzó el lunes un clasificador de imágenes gratuito, desarrollado con el NCMEC, que califica como la primera herramienta de CSAM ampliamente disponible capaz de detectar material generado por IAopenai.com.
ChatGPT advertirá a los usuarios que busquen contenido abusivo, eliminará el chat y suspenderá el acceso por 24 horas; los reincidentes se arriesgan a bloqueos o denuncias policialesopenai.com.
El lanzamiento ocurre mientras OpenAI enfrenta demandas que alegan que su tecnología ha perjudicado a usuarios, especialmente menores, mientras que chatbots rivales como Grok han generado imágenes sexualizadas, informó TechCrunchtechcrunch.com.