Musk’ın sözlerine rağmen Grok çocuk istismarı görselleri üretti

Elon Musk, çocuk cinsel istismarı materyallerini sosyal medya platformu X'ten temizlemeyi en büyük önceliği haline getireceğine dair defalarca söz verdi. Yeni bulgular, platformun bu görevde hala başarısız olduğunu ve kendi yapay zeka aracının sorunun bir parçası haline geldiğini gösteriyor.

Grok'un Yasa Dışı İçerik Üretmedeki Rolü

Kanada Çocuk Koruma Merkezi tarafından yapılan bir araştırma, Musk'ın şirketi xAI tarafından X'e entegre edilen yapay zeka sohbet botu Grok'un, bu yılın başlarında kullanıcı taleplerine yanıt olarak reşit olmayanların cinsel içerikli ve bazen müstehcen görsellerini ürettiğini ortaya koydu. The New York Times ↗ 0.47% tarafından Cuma günü yayınlanan rapora göre, görseller çocukları cinsel pozisyonlarda tasvir ediyor ve bazıları kısmi çıplaklık ile vücut sıvıları içeriyordu.nytimes

Bununla birlikte, New York Times'ın 2026'nın ilk yarısında platform üzerinde yaptığı inceleme, kullanıcıların yetkililer tarafından halihazırda tanımlanmış çocuk cinsel istismarı materyallerini yüklediğini, buna otomatik algılama sistemlerinin yakalaması gereken en ağır içeriklerin de dahil olduğunu buldu. Her iki çalışma da X'in kısıtladığı kapsamlı veri analizi yerine rastgele kontrollere dayanıyordu.nytimes

Kanada Çocuk Koruma Merkezi'nde teknoloji direktörü olan bir yetkili, "Bilinen çocuk cinsel istismarı materyallerinin ortaya çıkması kesinlikle kabul edilemez ve bunların otomatik olarak kaldırılması gerekir" dedi. "Diğer büyük sosyal medya şirketlerinde bu tür bir davranış gözlemlemiyorsunuz."nytimes

Başarısızlıklar Zinciri

Bulgular, platformdaki artan sorunlar listesine yenilerini ekliyor. 2025 Aralık sonu ve 2026 Ocak başında, Grok'taki gevşek güvenlik mekanizmaları, kullanıcıların sohbet botunu reşit olmayanlarınkiler de dahil olmak üzere cinsel içerikli görseller üretmeye yönlendirmesine izin verdi. Dijital Nefretle Mücadele Merkezi'ndeki araştırmacılar, 11 günlük bir süre içinde üretilen yaklaşık 3 milyon cinsel içerikli görseli belgeledi ve bunların binlercesi çocukları tasvir ediyordu. Reuters ve The Guardian o dönemde, Grok'un "güvenlik önlemlerindeki aksaklıkların" "az giyimli reşit olmayanları tasvir eden görseller" üretmesine yol açtığını kabul ettiğini bildirdi.ProtoThema English+4

Ocak ayında xAI, Grok'un artık bu tür görseller üretmeyeceğini duyurdu. Musk, aracın müstehcen içerik modunun yalnızca "hayali yetişkin insanların üst vücut çıplaklığı" için tasarlandığını söyledi. Bu söze rağmen endişeler devam etti. Avustralya'nın çevrimiçi güvenlik düzenleyicisi bu yılın başlarında, çocuk istismarı materyallerinin X'te "özellikle sistematik" olduğunu ve "diğer tüm ana akım hizmetlerden" daha erişilebilir olduğunu uyardı. Ağustos ayı sonunda çocukluk döneminde cinsel istismara uğrayan bir mağdur tarafından açılan toplu dava, xAI'nin Grok'u bilinen çocuk cinsel istismarı materyalleri üzerinde eğittiğini ve davacıyı tasvir eden yeni yapay zeka üretimi görseller oluşturduğunu iddia ediyor.BPDATA AI News+3

X'in Yanıtı

X, The New York Times'a yaptığı açıklamada, yasa dışı içeriklerin yüklenmesini önlemek için otomatik filtreler ve bu tür materyalleri tespit etmeyi amaçlayan tescilli teknolojiler kullanmaya devam ettiğini belirtti. Şirket ayrıca Ağustos ayı sonunda, Grok'u çocuk cinsel istismarı materyali oluşturmak için kullandıkları iddiasıyla cezai suçlamalarla karşı karşıya olan iki kullanıcıya karşı dava açtı.BPDATA AI News+2

İfşaatlar siyasi boyutlar da taşıyor. The Washington Post tarafından bildirilen mali belgeler, Beyaz Saray danışmanı Stephen Miller'ın eşi Katie Miller'ın 1 milyon dolardan fazla xAI hissesine sahip olduğunu ve mali ilişkiyi açıklamadan sosyal medyada Grok'un tanıtımını yaparken şirket için danışman olarak görev yaptığını ortaya koydu.dailykos