OpenAI lanza clasificador gratuito de CSAM y alertas en ChatGPT

8 fuentes
  • OpenAI lanzó el lunes un clasificador de imágenes gratuito, desarrollado con el NCMEC, que califica como la primera herramienta de CSAM ampliamente disponible capaz de detectar material generado por IA.
  • ChatGPT advertirá a los usuarios que busquen contenido abusivo, eliminará el chat y suspenderá el acceso por 24 horas; los reincidentes se arriesgan a bloqueos o denuncias policiales.
  • El lanzamiento ocurre mientras OpenAI enfrenta demandas que alegan que su tecnología ha perjudicado a usuarios, especialmente menores, mientras que chatbots rivales como Grok han generado imágenes sexualizadas, informó TechCrunch.
Fuentes (8)
  1. 1 Strengthening the fight against online child sexual abuse with new tools and support openai.com
  2. 2 OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM | TechCrunch techcrunch.com
  3. 3 Combating online child sexual exploitation & abuse openai.com
  4. 4 OpenAI Report on Child Safety Reporting cdn.openai.com
  5. 5 CSAM guidance | OpenAI API developers.openai.com
  6. 6 OpenAI Launches New CSAM Detection and ChatGPT Warnings sqmagazine.co.uk
  7. 7 OpenAI rolls out image classifier and ChatGPT warnings to fight CSAM cryptobriefing.com
  8. 8 OpenAI Adds ChatGPT Warnings for Requests Seeking Child Sexual Abuse Material www.tokenpost.com