OpenAI lance un classificateur CSAM gratuit et des avertissements sur ChatGPT

8 sources
  • OpenAI a lancé lundi un classificateur d'images gratuit, développé avec le NCMEC, qu'il présente comme le premier outil CSAM largement disponible capable de signaler du contenu généré par IA.
  • ChatGPT avertira les utilisateurs recherchant du contenu abusif, supprimera la discussion et suspendra l'accès pendant 24 heures; les récidivistes risquent des bannissements ou des signalements aux autorités.
  • Ce lancement intervient alors qu'OpenAI fait face à des poursuites alléguant que sa technologie a nui aux utilisateurs, en particulier aux enfants, tandis que des chatbots rivaux comme Grok ont produit des images sexualisées, rapporte TechCrunch.
Sources (8)
  1. 1 Strengthening the fight against online child sexual abuse with new tools and support openai.com
  2. 2 OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM | TechCrunch techcrunch.com
  3. 3 Combating online child sexual exploitation & abuse openai.com
  4. 4 OpenAI Report on Child Safety Reporting cdn.openai.com
  5. 5 CSAM guidance | OpenAI API developers.openai.com
  6. 6 OpenAI Launches New CSAM Detection and ChatGPT Warnings sqmagazine.co.uk
  7. 7 OpenAI rolls out image classifier and ChatGPT warnings to fight CSAM cryptobriefing.com
  8. 8 OpenAI Adds ChatGPT Warnings for Requests Seeking Child Sexual Abuse Material www.tokenpost.com