Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

openai.com.openai.com.techcrunch.com.Společnost OpenAI v pondělí 16. listopadu vydala bezplatný klasifikátor obrázků, který detekuje materiál sexuálního zneužívání dětí (CSAM), včetně snímků vytvořených umělou inteligencí. Zároveň přidala varování v ChatGPT, která při pokusu o získání závadného obsahu zablokují přístup na 24 hodin. Firma uvedla, že tato opatření vycházejí z jejího plánu pro bezpečnost dětí. Balíček obsahuje také pokyny pro vývojáře a nové nástroje AI pro vyšetřovatele v oblasti bezpečnosti dětí u orgánů činných v trestním řízení.openai.com
OpenAI trénovala a vyhodnocovala klasifikátor s pomocí Národního centra pro pohřešované a zneužívané děti (NCMEC), neziskové organizace provozující linku CyberTipline. Společnost jej označuje za první široce dostupný klasifikátor CSAM se specifickým signálem pro materiál, který mohl být vytvořen umělou inteligencí. Nástroj vyhledává vizuální známky zneužívání v obrázcích, které dosud nebyly vidět. Každému obrázku přiřadí skóre, aby recenzenti mohli rozhodnout, co zkontrolovat jako první. Prověřené organizace jej mohou bezplatně využívat prostřednictvím OpenAI API.openai.com
Při interním testu na obrázcích nahraných uživateli OpenAI odhadla, že nový klasifikátor označí o 48 % méně obrázků než její současný nástroj, přičemž najde zhruba stejný počet závadných snímků. Obrázky, které označil, měly zhruba dvakrát vyšší pravděpodobnost, že obsahují zneužívání. První partneři sdíleli své vlastní výsledky. U fal recenzenti potvrdili 72 % vysoce důvěryhodných označení klasifikátoru jako nový CSAM. SafetyKit zjistil, že zachytil 90 % kreseb nebo animací sexualizujících děti. OpenAI uvedla, že spolupracuje s Tech Coalition a ROOST na sdílení přístupu s ostatními.techcrunch.com+1
Dosud se OpenAI při skenování nahrávek spoléhala na porovnávání hashů a klasifikátor CSAM od společnosti Thorn. V první polovině roku 2026 odeslala NCMEC 126 597 hlášení na linku CyberTipline.openai.com+1
ChatGPT nyní zasáhne, když se někdo pokusí najít závadný materiál. Zobrazí varování, že sexualizace dětí způsobuje újmu, i když je materiál vytvořen umělou inteligencí. OpenAI následně konverzaci smaže a na 24 hodin pozastaví přístup k ChatGPT, přičemž uživatele odkáže na odbornou pomoc. Opakovaná porušení mohou vést k delším omezením, zrušení účtu nebo nahlášení úřadům. Tento přístup byl vytvořen ve spolupráci s Protect Children, Lucy Faithfull Foundation a výzkumníky, kteří vyhodnotili test odrazujících zpráv.openai.com
OpenAI také zveřejnila pokyny k CSAM pro vývojáře, vytvořené s přispěním Thorn, NCMEC a Internet Watch Foundation. Pro vyšetřovací jednotky zaměřené na bezpečnost dětí společnost přidává pluginy, vyšetřovací nástroje a školení. První nástroj pomáhá vyšetřovatelům procházet dlouhé protokoly chatu a právní dokumenty, identifikovat možné souvislosti a vytvářet časové osy.developers.openai.com
Spuštění přichází v době, kdy technologické firmy čelí rostoucí kontrole ohledně bezpečnosti dětí. TechCrunch poznamenal, že OpenAI čelí několika žalobám, které viní její technologii z poškozování uživatelů, zejména dětí. Uvedl také, že další chatboti, včetně Grok, byli využiti k vytváření nesouhlasných sexualizovaných snímků, z nichž některé zahrnovaly děti.techcrunch.com