Google überarbeitet KI-Suche nach Kritik an rassistischen Antworten

Google Alphabet Inc. ↗ 0.55% sieht sich erneuter Kritik an seiner KI-gestützten Suchfunktion ausgesetzt, nachdem Nutzer feststellten, dass Anfragen zum Alleinsein mit Menschen bestimmter Nationalitäten und Religionen völlig unterschiedliche Reaktionen auslösten: einige neutral, andere mit Hinweisen auf mögliche Gefahren.

Kontrastreiche Antworten sorgen für Empörung

Screenshots, die diese Woche im Internet kursierten, zeigten, dass Googles AI Overview Nutzern, die "I'm alone with a Muslim" eingaben, riet, den Ort zu verlassen oder den Notruf zu wählen, falls sie sich unsicher fühlten, während sie gleichzeitig aufgefordert wurden, der Person mit "normalem menschlichen Respekt" zu begegnen. Im Gegensatz dazu führte eine ähnliche Anfrage zum Alleinsein mit einem Israelis zu einer neutralen Antwort, die besagte, dass die Person "ein Individuum wie jeder andere" sei, und die Nutzer ermutigte, sich auf die gemeinsame Menschlichkeit zu konzentrieren.nypost+2

Die Ungleichbehandlung wurde zuerst von einem Reddit-Nutzer aufgedeckt, der das System mit verschiedenen Nationalitäten testete. Als der Nutzer "I am alone with a Ugandan" eingab, schlug die AI Overview ebenfalls vor, die Rettungsdienste zu kontaktieren. Eine Suche zum Alleinsein mit einem Amerikaner ergab dagegen den harmlosen Ratschlag, "ein normales Gespräch zu führen" und "höflich zu bleiben".reddit+1

Futurism, das eine eigene Untersuchung durchführte, bestätigte vergleichbare Ergebnisse und stellte fest, dass die KI für einige Gruppen locker-flockige kulturelle Stereotypen anbot: Sie riet Nutzern, die mit einem Briten allein sind, "eine Tasse Tee" anzubieten und "das Wetter zu kommentieren".futurism

Aktivisten und religiöse Führer reagieren

Der palästinensisch-amerikanische Imam Omar Suleiman gehörte zu denjenigen, die Google wegen der Antworten mit Bezug zu Muslimen kritisierten. "Habt ihr nicht aus der schrecklichen Suche über den Islam gelernt? Ist eure KI jetzt einfach so beiläufig islamfeindlich?" schrieb er.thecurrent

Nach der Kritikwelle aktualisierte Google die Antwort auf die muslimbezogene Anfrage wie folgt: "Mit einer muslimischen Person allein zu sein, unterscheidet sich nicht davon, mit irgendjemand anderem allein zu sein."x+1

Google verwies die New York Post auf eine Stellungnahme auf X, in der eingeräumt wurde, dass "die Ergebnisse für diese Art von Suchanfragen nicht so sind, wie sie sein sollten", und fügte hinzu, dass das Unternehmen "aktiv an Verbesserungen arbeitet".nypost

Muster von Kontroversen über KI-Voreingenommenheit

Der Vorfall ist der jüngste in einer Reihe von Kontroversen über Voreingenommenheit bei Googles KI-Produkten. Anfang 2024 pausierte das Unternehmen vorübergehend die Bildgenerierungsfunktion von Gemini, nachdem diese historisch fehlerhafte Darstellungen im Zusammenhang mit ethnischer Zugehörigkeit erzeugt hatte. Googles AI-Overview-Funktion, die seit Mai 2024 ganz oben in den Suchergebnissen erscheint, steht anhaltend wegen Halluzinationen von Fakten und der Bereitstellung irreführender Informationen in der Kritik.wsj+2