OpenAI, 16 Kasım Pazartesi günü, yapay zeka tarafından oluşturulan görüntüler de dahil olmak üzere çocuk cinsel istismarı materyallerini (CSAM) tespit eden ücretsiz bir görüntü sınıflandırıcısı yayınladı. Ayrıca, birisi istismarcı içerik elde etmeye çalıştığında erişimi 24 saatliğine kesen ChatGPT uyarılarını da…
OpenAI Pazartesi günü, NCMEC ile eğitilmiş ve yapay zeka tarafından oluşturulan materyalleri işaretleyen, geniş çapta erişilebilir ilk CSAM aracı olarak adlandırdığı ücretsiz bir görüntü sınıflandırıcısını yayınladıopenai.com.
ChatGPT, istismarcı içerik arayan kullanıcıları uyaracak, sohbeti silecek ve erişimi 24 saatliğine durduracak; tekrar eden ihlallerde hesap yasaklanabilir veya polise bildirilebiliropenai.com.
TechCrunch'ın haberine göre, bu hamle OpenAI'ın teknolojisinin özellikle çocuklara zarar verdiği iddiasıyla davalarla karşı karşıya kaldığı ve Grok gibi rakip sohbet botlarının cinsel içerikli görseller ürettiği bir dönemde gelditechcrunch.com.