Společnost OpenAI v pondělí 16. listopadu vydala bezplatný klasifikátor obrázků, který detekuje materiál sexuálního zneužívání dětí (CSAM), včetně snímků vytvořených umělou inteligencí. Zároveň přidala varování v ChatGPT, která při pokusu o získání závadného obsahu zablokují přístup na 24 hodin. Firma…
OpenAI v pondělí vydala bezplatný klasifikátor obrázků, vyvinutý ve spolupráci s NCMEC, který označuje za první široce dostupný nástroj pro detekci materiálu zneužívání dětí (CSAM) vytvořeného umělou inteligencíopenai.com.
ChatGPT bude varovat uživatele hledající závadný obsah, smaže konverzaci a na 24 hodin pozastaví přístup; opakovaným porušovatelům hrozí zákazy nebo nahlášení policiiopenai.com.
Spuštění přichází v době, kdy OpenAI čelí žalobám obviňujícím její technologii z poškozování uživatelů, zejména dětí, zatímco konkurenční chatboti jako Grok vytvářeli sexualizované snímky, uvedl TechCrunchtechcrunch.com.