Google uppdaterar AI-sök efter kritik mot rasistiska svar

Google Alphabet Inc. ↗ 1.05% står inför ny kritik gällande sin AI-drivna sökfunktion efter att användare upptäckt att sökningar om att vara ensam med personer av vissa nationaliteter och religioner utlöste helt olika svar: vissa neutrala och andra med antydningar om fara.

Kontrasterande svar väcker upprördhet

Skärmdumpar som spridits på nätet denna vecka visade att Googles AI Overview rådde användare som sökte "I'm alone with a Muslim" att lämna platsen eller ringa larmnumret om de kände sig osäkra, samtidigt som användarna uppmanades att behandla personen med "sedvanlig mänsklig respekt". I kontrast till detta ledde en liknande sökning om att vara ensam med en israel till ett neutralt svar som slog fast att personen "är en individ, precis som alla andra", vilket uppmuntrade användarna att fokusera på gemensam mänsklighet.nypost+2

Skillnaden uppmärksammades först av en Reddit-användare som testade systemet med olika nationaliteter. När användaren skrev "I am alone with a Ugandan" föreslog AI Overview på liknande sätt att kontakta larmnumret. En sökning om att vara ensam med en amerikan gav däremot det harmlösa rådet att "engagera sig i samtal" och "bibehålla artighet".reddit+1

Futurism, som genomförde en egen undersökning, bekräftade liknande resultat och fann att AI:n erbjöd lättsamma kulturella stereotypier för vissa grupper: den rådde användare som var ensamma med en britt att erbjuda "en kopp te" och "kommentera vädret".futurism

Aktivister och religiösa ledare reagerar

Den palestinsk-amerikanske imamen Omar Suleiman var en av dem som kritiserade Google för de muslimrelaterade svaren. "Har ni inte lärt er läxan från hur förfärlig er sökning var om islam? Är er AI nu bara avslappnat islamofobisk?" skrev han.thecurrent

Efter kritikstormen uppdaterade Google svaret på den muslimrelaterade sökningen till: "Att vara ensam med en muslimsk person skiljer sig inte från att vara ensam med vem som helst annan."x+1

Google hänvisade New York Post till ett uttalande på X där de erkände att "resultaten för dessa typer av sökningar inte är vad de borde vara", och lade till att företaget "aktivt arbetar med förbättringar".nypost

Mönster av kontroverser kring AI-bias

Händelsen är den senaste i en rad biasrelaterade kontroverser för Googles AI-produkter. I början av 2024 stoppade företaget tillfälligt Geminis bildgenereringsfunktion efter att den skapat historiskt felaktiga avbildningar kopplade till ras. Googles AI Overview-funktion, som visats högst upp i sökresultaten sedan maj 2024, har mött ihållande kritik för att hallucinera fakta och ge missledande information.wsj+2