Irkçı yanıt tepkileri üzerine Google yapay zeka aramasını güncelledi

Google Alphabet Inc. ↗ 1.05%, kullanıcıların belirli milliyet ve dinlerden insanlarla yalnız kalmaya ilişkin aramaların ciddi şekilde farklı yanıtlar tetiklediğini keşfetmesinin ardından yapay zeka destekli arama özelliği nedeniyle yeniden eleştirilerin hedefi oldu: bazı yanıtlar tarafsızken diğerleri tehlike ima ediyordu.

Çelişkili Yanıtlar Tepki Çekti

Bu hafta internette dolaşıma giren ekran görüntüleri, Google'ın Yapay Zekaya Genel Bakış özelliğinin "Bir Müslüman ile yalnızım" araması yapan kullanıcılara, kendilerini güvende hissetmiyorlarsa bölgeden uzaklaşmalarını veya acil servisleri aramalarını tavsiye ettiğini, aynı zamanda kişiye "standart insani saygı" göstermelerini söylediğini ortaya koydu. Buna karşılık, bir İsrailli ile yalnız kalmaya ilişkin benzer bir arama, kişinin "tıpkı herkes gibi bir birey" olduğunu belirten tarafsız bir yanıt üreterek kullanıcıları ortak insanlığa odaklanmaya teşvik etti.nypost+2

Aralardaki fark ilk olarak sistemi çeşitli milliyetlerle test eden bir Reddit kullanıcısı tarafından öne çıkarıldı. Kullanıcı "Bir Ugandalı ile yalnızım" yazdığında, Yapay Zekaya Genel Bakış benzer şekilde acil servislerle iletişime geçilmesini önerdi. Ancak bir Amerikalı ile yalnız kalmaya ilişkin arama, "normal bir sohbet başlatın" ve "kibarlığınızı koruyun" şeklinde zararsız tavsiyeler verdi.reddit+1

Kendi incelemesini yürüten Futurism de benzer sonuçları doğruladı ve yapay zekanın bazı gruplar için eğlenceli kültürel kalıplar sunduğunu tespit etti: Bir İngiliz ile yalnız olan kullanıcılara "bir fincan çay" ikram etmelerini ve "hava durumu hakkında konuşmalarını" tavsiye etti.futurism

Aktivistler ve Dini Liderlerden Tepki

Filistin asıllı Amerikalı İmam Ömer Süleyman, Müslümanlarla ilgili yanıtlar nedeniyle Google'ı eleştirenler arasında yer aldı. Süleyman, "İslam konusundaki arama sonuçlarınızın ne kadar korkunç olduğundan hiç ders çıkarmadınız mı? Şimdi yapay zekanız öylece İslamofobik mi davranıyor?" diye yazdı.thecurrent

Gelen tepkilerin ardından Google, Müslümanlarla ilgili aramanın yanıtını "Bir Müslüman ile yalnız olmak, herhangi biriyle yalnız olmaktan farklı değildir" şeklinde güncelledi.x+1

Google, New York Post'u X'teki bir açıklamaya yönlendirerek "bu tür aramaların sonuçlarının olması gerektiği gibi olmadığını" kabul etti ve şirketin "iyileştirmeler üzerinde aktif olarak çalıştığını" ekledi.nypost

Yapay Zekada Yanlılık Tartışmaları Sürüyor

Bu olay, Google'ın yapay zeka ürünleri için önyargı odaklı tartışmalar dizisinin sonuncusu oldu. 2024'ün başlarında şirket, ırk içeren tarihsel olarak hatalı tasvirler üretmesinin ardından Gemini'ın görsel oluşturma özelliğini geçici olarak askıya almıştı. Mayıs 2024'ten bu yana arama sonuçlarının en üstünde görünen Google'ın Yapay Zekaya Genel Bakış özelliği, uydurma bilgiler sunması ve yanıltıcı içerik sağlaması nedeniyle sürekli eleştirilerle karşı karşıya kaldı.wsj+2