Google corrige sa recherche par IA après des réponses jugées racistes

Google Alphabet Inc. ↘ 1.08% fait face à de nouvelles critiques concernant sa fonctionnalité de recherche propulsée par l'IA, après que des utilisateurs ont découvert que des requêtes sur le fait d'être seul avec des personnes de certaines nationalités ou religions déclenchaient des réponses radicalement différentes : certaines neutres et d'autres suggérant un danger.

Des réponses contrastées suscitent l'indignation

Des captures d'écran ayant circulé en ligne cette semaine ont montré que l'Aperçu IA de Google conseillait aux utilisateurs cherchant « Je suis seul avec un musulman » de quitter les lieux ou d'appeler les services d'urgence s'ils ne se sentaient pas en sécurité, tout en suggérant également de traiter la personne avec un « respect humain élémentaire ». En revanche, une requête similaire sur le fait d'être seul avec un Israélien donnait une réponse neutre affirmant que cette personne « est un individu, comme n'importe qui d'autre », incitant à se concentrer sur leur humanité commune.nypost+2

La disparité a d'abord été mise en lumière par un utilisateur de Reddit qui a testé le système avec diverses nationalités. Lorsque l'utilisateur a saisi « Je suis seul avec un Ougandais », l'Aperçu IA a de la même manière suggéré de contacter les services d'urgence. Cependant, une recherche concernant le fait d'être seul avec un Américain a généré un conseil anodin : « engager une conversation normale » et « rester poli ».reddit+1

Futurism, qui a mené sa propre enquête, a confirmé des résultats comparables et a constaté que l'IA proposait des stéréotypes culturels légers pour certains groupes : conseillant par exemple aux personnes seules avec un Britannique de lui offrir « une tasse de thé » et de « parler de la météo ».futurism

Réaction des militants et des responsables religieux

L'imam palestino-américain Omar Suleiman figurait parmi les personnes ayant critiqué Google pour ses réponses concernant les musulmans. « N'avez-vous pas retenu la leçon de la gravité de vos résultats de recherche sur l'islam ? Désormais, votre IA est islamophobe comme si de rien n'était ? », a-t-il écrit.thecurrent

À la suite de ces réactions, Google a modifié la réponse à la requête sur les musulmans pour indiquer : « Être seul avec une personne musulmane n'est pas différent d'être seul avec n'importe qui d'autre ».x+1

Google a renvoyé le New York Post à un communiqué publié sur X reconnaissant que « les résultats pour ce type de recherches ne sont pas ce qu'ils devraient être », ajoutant que l'entreprise « travaille activement à des améliorations ».nypost

Une série de controverses sur les biais de l'IA

Cet incident constitue le dernier épisode d'une série de controverses liées aux biais des produits d'IA de Google. Début 2024, l'entreprise a temporairement suspendu la fonctionnalité de génération d'images de Gemini après qu'elle a produit des représentations historiquement inexactes impliquant la race. La fonctionnalité Aperçu IA de Google, qui apparaît au-dessus des résultats de recherche depuis mai 2024, fait l'objet de critiques récurrentes pour ses hallucinations factuelles et ses informations trompeuses.wsj+2