OpenAI släppte måndagen den 16 november en gratis bildklassificerare som upptäcker material föreställande sexuella övergrepp mot barn (CSAM), inklusive AI-genererat innehåll. De har även infört varningar i ChatGPT som stänger av åtkomsten i 24 timmar om någon försöker få fram…
OpenAI släppte på måndagen en gratis bildklassificerare, utvecklad med NCMEC, som de kallar det första brett tillgängliga verktyget för att flagga AI-genererat CSAMopenai.com.
ChatGPT kommer nu att varna användare som söker efter övergreppsmaterial, radera chatten och pausa åtkomsten i 24 timmar; upprepade överträdelser kan leda till avstängning eller polisanmälanopenai.com.
Lanseringen sker samtidigt som OpenAI möter stämningar gällande skadlig teknik, medan rivaliserande tjänster som Grok har kritiserats för att generera sexualiserat material, rapporterar TechCrunchtechcrunch.com.