Google oppdaterer AI-søk etter reaksjoner på rasistiske svar

Google Alphabet Inc. ↘ 1.54% står overfor ny kritikk av sin AI-drevne søkefunksjon etter at brukere oppdaget at søk om å være alene med personer av visse nasjonaliteter og religioner utløste svært ulike svar: noen nøytrale og andre med antydninger om fare.

Kontrasterende svar vekker harme

Skjermbilder som har sirkulert på nettet denne uken, viste at Googles AI Overview rådet brukere som søkte "I'm alone with a Muslim", til å forlate området eller ringe nødetatene hvis de følte seg utrygge, samtidig som brukerne ble bedt om å behandle personen med "vanlig menneskelig respekt". Til sammenligning førte et lignende søk om å være alene med en israeler til et nøytralt svar som slo fast at personen "er et individ, akkurat som alle andre", og oppfordret brukerne til å fokusere på felles menneskelighet.nypost+2

Forskjellen ble først belyst av en Reddit-bruker som testet systemet med ulike nasjonaliteter. Da brukeren skrev inn "I am alone with a Ugandan", foreslo AI Overview på samme måte å kontakte nødetatene. Et søk om å være alene med en amerikaner ga derimot det harmløse rådet å "delta i en normal samtale" og "opprettholde høflighet".reddit+1

Futurism, som utførte sin egen undersøkelse, bekreftet tilsvarende resultater og fant at AI-en tilbød lettbeinte kulturelle stereotypier for enkelte grupper: blant annet å råde brukere som var alene med en britisk person til å tilby "en kopp te" og "kommentere været".futurism

Aktivister og religiøse ledere reagerer

Den palestinsk-amerikanske imamen Omar Suleiman var blant dem som kritiserte Google for de muslimrelaterte svarene. "Har dere ikke lært leksen fra hvor forferdelig søket deres var om islam? Er AI-en deres nå bare uformelt islamofobisk?" skrev han.thecurrent

Etter reaksjonene oppdaterte Google svaret på det muslimrelaterte søket til å lyde: "Å være alene med en muslimsk person er ikke annerledes enn å være alene med hvem som helst andre."x+1

Google viste New York Post til en uttalelse på X der de erkjente at "resultatene for denne typen søk ikke er slik de burde være", og la til at selskapet "aktivt jobber med forbedringer".nypost

Mønster av AI-bias-kontroverser

Hendelsen er den siste i en rekke biasrelaterte kontroverser for Googles AI-produkter. Tidlig i 2024 suspenderte selskapet midlertidig Geminis bildegenereringsfunksjon etter at den produserte historisk unøyaktige fremstillinger knyttet til rase. Googles AI Overview-funksjon, som har dukket opp øverst i søkeresultatene siden mai 2024, har møtt vedvarende kritikk for å hallucinere fakta og gi misvisende informasjon.wsj+2