Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

openai.com.openai.com.techcrunch.com.OpenAI, 16 Kasım Pazartesi günü, yapay zeka tarafından oluşturulan görüntüler de dahil olmak üzere çocuk cinsel istismarı materyallerini (CSAM) tespit eden ücretsiz bir görüntü sınıflandırıcısı yayınladı. Ayrıca, birisi istismarcı içerik elde etmeye çalıştığında erişimi 24 saatliğine kesen ChatGPT uyarılarını da ekledi. Şirket, bu önlemlerin Çocuk Güvenliği Planı'na dayandığını belirtti. Paket ayrıca geliştiriciler için rehberlik ve kolluk kuvvetlerindeki çocuk güvenliği araştırmacıları için yeni yapay zeka araçlarını da içeriyor.openai.com
OpenAI, sınıflandırıcıyı CyberTipline'ı yöneten kar amacı gütmeyen kuruluş olan Kayıp ve İstismara Uğramış Çocuklar Ulusal Merkezi (NCMEC) ile birlikte eğitti ve değerlendirdi. Şirket bunu, materyalin yapay zeka tarafından oluşturulup oluşturulmadığına dair özel bir sinyale sahip, geniş çapta erişilebilir ilk CSAM sınıflandırıcısı olarak adlandırıyor. Araç, daha önce görülmemiş görüntülerdeki istismar görsel işaretlerini arıyor. Her görüntüye bir puan veriyor, böylece incelemeciler hangilerini önce kontrol edeceklerine karar verebiliyor. Onaylanmış kuruluşlar, OpenAI API aracılığıyla aracı ücretsiz olarak kullanabiliyor.openai.com
Kullanıcı tarafından yüklenen görüntüler üzerinde yapılan bir iç testte OpenAI, yeni sınıflandırıcının mevcut aracından %48 daha az görüntüyü işaretleyeceğini, ancak yaklaşık aynı sayıda istismarcı görüntüyü bulacağını tahmin etti. İşaretlediği görüntülerin istismar içerme olasılığı yaklaşık iki kat daha fazlaydı. İlk ortaklar kendi sonuçlarını paylaştı. Fal'da, incelemeciler sınıflandırıcının yüksek güvenli işaretlerinin %72'sinin yeni CSAM olduğunu doğruladı. SafetyKit, çocukları cinsel nesneleştiren çizimlerin veya animasyonların %90'ını yakaladığını tespit etti. OpenAI, erişimi başkalarıyla paylaşmak için Tech Coalition ve ROOST ile çalıştığını belirtti.techcrunch.com+1
Şimdiye kadar OpenAI, yüklemeleri taramak için karma eşleştirme ve Thorn'un CSAM sınıflandırıcısına güveniyordu. 2026'nın ilk yarısında NCMEC'e 126.597 CyberTipline raporu gönderdi.openai.com+1
ChatGPT artık birisi istismarcı materyal bulmaya çalıştığında devreye girecek. Materyal yapay zeka tarafından oluşturulmuş olsa bile çocukları cinsel nesneleştirmenin zarar verdiğini belirten bir uyarı gösterecek. OpenAI daha sonra konuşmayı silecek ve ChatGPT erişimini 24 saatliğine durduracak, bu sırada kullanıcıyı uzman yardımına yönlendirecek. Tekrar eden ihlaller daha uzun kısıtlamalara, hesap kapatmaya veya yetkililere bildirimde bulunulmasına yol açabilir. Bu yaklaşım, caydırıcı mesajların denemesini değerlendiren Protect Children, Lucy Faithfull Vakfı ve araştırmacılarla birlikte şekillendirildi.openai.com
OpenAI ayrıca Thorn, NCMEC ve Internet Watch Foundation'ın katkılarıyla yazılan geliştiriciler için CSAM rehberini yayınladı. Çocuk güvenliği kolluk birimleri için şirket eklentiler, soruşturma araçları ve eğitimler ekliyor. İlk araç, araştırmacıların uzun sohbet günlüklerini ve yasal süreç çıktılarını gözden geçirmelerine, olası bağlantıları tespit etmelerine ve zaman çizelgeleri oluşturmalarına yardımcı oluyor.developers.openai.com
Bu lansman, yapay zeka şirketlerinin çocuk güvenliği konusunda artan incelemelerle karşı karşıya olduğu bir dönemde geldi. TechCrunch, OpenAI'ın teknolojisini özellikle çocuklara zarar vermekle suçlayan birkaç davayla karşı karşıya olduğunu belirtti. Ayrıca Grok da dahil olmak üzere diğer sohbet botlarının, bazıları çocukları içeren, rıza dışı cinsel içerikli görseller oluşturmak için kullanıldığını kaydetti.techcrunch.com