OpenAI ücretsiz CSAM sınıflandırıcısı ve ChatGPT uyarılarını başlattı

8 kaynak
  • OpenAI Pazartesi günü, NCMEC ile eğitilmiş ve yapay zeka tarafından oluşturulan materyalleri işaretleyen, geniş çapta erişilebilir ilk CSAM aracı olarak adlandırdığı ücretsiz bir görüntü sınıflandırıcısını yayınladı.
  • ChatGPT, istismarcı içerik arayan kullanıcıları uyaracak, sohbeti silecek ve erişimi 24 saatliğine durduracak; tekrar eden ihlallerde hesap yasaklanabilir veya polise bildirilebilir.
  • TechCrunch'ın haberine göre, bu hamle OpenAI'ın teknolojisinin özellikle çocuklara zarar verdiği iddiasıyla davalarla karşı karşıya kaldığı ve Grok gibi rakip sohbet botlarının cinsel içerikli görseller ürettiği bir dönemde geldi.
Kaynaklar (8)
  1. 1 Strengthening the fight against online child sexual abuse with new tools and support openai.com
  2. 2 OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM | TechCrunch techcrunch.com
  3. 3 Combating online child sexual exploitation & abuse openai.com
  4. 4 OpenAI Report on Child Safety Reporting cdn.openai.com
  5. 5 CSAM guidance | OpenAI API developers.openai.com
  6. 6 OpenAI Launches New CSAM Detection and ChatGPT Warnings sqmagazine.co.uk
  7. 7 OpenAI rolls out image classifier and ChatGPT warnings to fight CSAM cryptobriefing.com
  8. 8 OpenAI Adds ChatGPT Warnings for Requests Seeking Child Sexual Abuse Material www.tokenpost.com