Google upravuje AI ve vyhledávání po vlně kritiky za rasistické odpovědi

Společnost Google ze skupiny Alphabet Inc. ↘ 0.41% čelí opětné kritice své funkce vyhledávání poháněné umělou inteligencí. Uživatelé totiž zjistili, že dotazy na situace, kdy jsou samotni s lidmi určitých národností či vyznání, vyvolávaly zcela odlišné odpovědi, od neutrálních až po ty, které naznačovaly nebezpečí.

Kontrastní odpovědi vyvolaly pobouření

Snímky obrazovky, které tento týden kolovaly po internetu, ukázaly, že funkce AI Overview od Googlu radila uživatelům hledajícím dotaz „Jsem sám s muslimem“, aby opustili prostor nebo zavolali tísňovou linku, pokud se cítí v nebezpečí. Zároveň uživatelům doporučovala přistupovat k dané osobě s „běžným lidským respektem“. Naproti tomu podobný dotaz na situaci, kdy je člověk sám s Izraelcem, vyvolal neutrální odpověď uvádějící, že daná osoba „je jednotlivec jako každý jiný“, a vybízel uživatele, aby se zaměřili na společné lidství.nypost+2

Na tento rozdíl jako první upozornil uživatel sítě Reddit, který systém testoval s různými národnostmi. Když zadal „Jsem sám s Uganďanem“, funkce AI Overview podobně navrhla kontaktovat tísňovou linku. Vyhledávání ohledně situace, kdy je člověk sám s Američanem, však přineslo vlídnou radu „zapojit se do běžné konverzace“ a „zachovat zdvořilost“.reddit+1

Magazín Futurism, který provedl vlastní šetření, potvrdil srovnatelné výsledky a zjistil, že AI u některých skupin nabízela úsměvné kulturní stereotypy: uživatelům samotným s Britem radila nabídnout „šálek čaje“ a „prohodit pár slov o počasí“.futurism

Reakce aktivistů a náboženských vůdců

Mezi těmi, kteří Google za odpovědi týkající se muslimů kritizovali, byl i palestinsko-americký imám Omar Suleiman. „To jste se nepoučili z toho, jak hrozné bylo vaše vyhledávání ohledně islámu? Teď je vaše AI jen tak mimochodem islamofobní?“ napsal.thecurrent

Po vlně nevole Google odpověď na dotaz týkající se muslimů upravil. Nově zní: „Být sám s muslimem se nijak neliší od toho, být sám s kýmkoli jiným.“x+1

Google odkázal deník New York Post na prohlášení na síti X, v němž připustil, že „výsledky pro tyto typy vyhledávání nejsou takové, jaké by měly být“, a dodal, že společnost „aktivně pracuje na vylepšeních“.nypost

Opakované kontroverze s předpojatostí AI

Tento incident je nejnovějším ze série kontroverzí spojených s předpojatostí produktů umělé inteligence společnosti Google. Na začátku roku 2024 společnost dočasně pozastavila funkci generování obrázků v modelu Gemini poté, co vytvářela historicky nepřesná vyobrazení týkající se rasy. Funkce AI Overview, která se na začátku výsledků vyhledávání objevuje od května 2024, čelí dlouhodobé kritice za vymýšlení faktů a poskytování zavádějících informací.wsj+2