Google uppfærir gervigreindarleitina eftir viðbrögð við fordómafullum svörum

Google Alphabet Inc. ↗ 1.05% stendur frammi fyrir nýrri gagnrýni á gervigreindardrifna leitareiginleika sinn eftir að notendur uppgötvuðu að fyrirspurnir um að vera einn með fólki af tilteknum þjóðernum og trúarbrögðum kölluðu fram verulega mismunandi svör: sum hlutlaus en önnur sem gáfu hættu í skyn.

Mismunandi svör vekja reiði

Skjáskot sem dreifðust á netinu í þessari viku sýndu gervigreindaryfirlit Google ráðleggja notendum sem leituðu að „Ég er einn með múslima“ að yfirgefa svæðið eða hringja í neyðarlínuna ef þeim liði óörugglega, en sagði notendum á sama tíma að sýna viðkomandi „venjulega manneskjulega virðingu“. Að sama skapi kallaði svipuð fyrirspurn um að vera einn með Ísraela fram hlutlaust svar þar sem fram kom að viðkomandi „væri einstaklingur, eins og hver annar“, og voru notendur hvattir til að einblína á sameiginlega mennsku.nypost+2

Mismunurinn var fyrst dreginn fram af Reddit-notanda sem prófaði kerfið með mismunandi þjóðernum. Þegar notandinn sló inn „Ég er einn með Úgandabúa“ stakk gervigreindaryfirlitið sömuleiðis upp á því að haft yrði samband við neyðarþjónustu. Leit um að vera einn með Bandaríkjamanni skilaði hins vegar skaðlausum ráðleggingum um að „fara í venjulegar umræður“ og „gæta kurteisi“.reddit+1

Tæknimiðillinn Futurism, sem gerði sína eigin rannsókn, staðfesti sambærilegar niðurstöður og komst að því að gervigreindin bauð upp á léttvægar menningarlegar staðalímyndir fyrir suma hópa: hún ráðlagði notendum sem voru einir með Breta að bjóða „tebolla“ og „ræða um veðrið“.futurism

Baráttufólk og trúarleiðtogar svara

Palestínsk-bandaríski íslamklerkurinn Omar Suleiman var meðal þeirra sem gagnrýndu Google fyrir svörin varðandi múslima. „Hafið þið ekki lært af því hversu skelfileg leit ykkar var um íslam? Er gervigreindin ykkar núna einfaldlega að sýna íslamófóbíu?“ skrifaði hann.thecurrent

Í kjölfar viðbragðanna uppfærði Google svarið við fyrirspurninni um múslima í: „Að vera einn með múslima er ekkert öðruvísi en að vera einn með hverjum öðrum.“x+1

Google vísaði New York Post á yfirlýsingu á X þar sem viðurkennt var að „niðurstöður fyrir þessar tegundir leita séu ekki eins og þær ættu að vera“ og bætti við að fyrirtækið „vinni hörðum höndum að bætingum“.nypost

Mynstur deilumála um hlutdrægni gervigreindar

Atvikið er það nýjasta í röð deilumála tengdum hlutdrægni í gervigreindarvörum Google. Snemma árs 2024 stöðvaði fyrirtækið tímabundið myndaframleiðslueiginleika Gemini eftir að hann bjó til sögulega rangar myndir sem vörðuðu kynþætti. Gervigreindaryfirlit Google, sem hefur birst efst í leitarniðurstöðum frá því í maí 2024, hefur mátt þola stöðuga gagnrýni fyrir að skálda staðreyndir og veita villandi upplýsingar.wsj+2