OpenAI a lancé lundi 16 novembre un classificateur d'images gratuit capable de détecter le matériel pédopornographique (CSAM), y compris les images générées par IA. L'entreprise a également ajouté des avertissements sur ChatGPT qui bloquent l'accès pendant 24 heures lorsqu'un utilisateur…
OpenAI a lancé lundi un classificateur d'images gratuit, développé avec le NCMEC, qu'il présente comme le premier outil CSAM largement disponible capable de signaler du contenu généré par IAopenai.com.
ChatGPT avertira les utilisateurs recherchant du contenu abusif, supprimera la discussion et suspendra l'accès pendant 24 heures; les récidivistes risquent des bannissements ou des signalements aux autoritésopenai.com.
Ce lancement intervient alors qu'OpenAI fait face à des poursuites alléguant que sa technologie a nui aux utilisateurs, en particulier aux enfants, tandis que des chatbots rivaux comme Grok ont produit des images sexualisées, rapporte TechCrunchtechcrunch.com.