Google päivitti AI-hakuaan rasistisista vastauksista nousseen kohun jälkeen

Google Alphabet Inc. ↗ 1.05% kohtaa uutta arvostelua tekoälypohjaisesta hakutoiminnostaan sen jälkeen, kun käyttäjät huomasivat tiettyjen kansallisuuksien ja uskontojen edustajien kanssa yksin olemista koskevien hakujen antavan jyrkästi erilaisia vastauksia: toiset olivat neutraaleja ja toiset vihjasivat vaarasta.

Ristiriitaiset vastaukset herättivät suuttumusta

Tällä viikolla verkossa levinneet kuvakaappaukset osoittivat Googlen Tekoälykatsauksen neuvovan käyttäjiä, jotka hakivat ilmauksella "olen yksin muslimin kanssa", poistumaan paikalta tai soittamaan hätänumeroon, jos he tuntivat olonsa turvattomaksi, samalla kun se kehotti kohtelemaan henkilöä "tavanomaisella inhimillisellä kunnioituksella". Sen sijaan samanlainen haku israelilaisen kanssa yksin olemisesta toi neutraalin vastauksen, jossa todettiin henkilön olevan "yksilö siinä missä kuka tahansa muukin", ja kehotettiin keskittymään yhteiseen ihmisyyteen.nypost+2

Eron nosti ensimmäisenä esiin Reddit-käyttäjä, joka testasi järjestelmää eri kansallisuuksilla. Kun käyttäjä kirjoitti "olen yksin ugandalaisen kanssa", Tekoälykatsaus ehdotti samalla tavoin yhteydenottoa hätäpalveluihin. Haku yhdysvaltalaisen kanssa yksin olemisesta antoi kuitenkin vaarattoman neuvon "käydä normaalia keskustelua" ja "säilyttää kohteliaisuus".reddit+1

Oman tutkimuksensa tehnyt Futurism vahvisti vastaavia tuloksia ja havaitsi tekoälyn tarjonneen kevyitä kulttuurisia stereotypioita joillekin ryhmille: se kehotti brittiläisen kanssa yksin olevia käyttäjiä tarjoamaan "kupillisen teetä" ja "kommentoimaan säätä".futurism

Aktivistit ja uskonnolliset johtajat reagoivat

Palestiinalaistaustainen yhdysvaltalainen imaami Omar Suleiman oli näkyvimpien joukossa arvostelemassa Googlea muslimeihin liittyvistä vastauksista. "Ettekö ole oppineet läksyänne siitä, miten kauhea hakunne oli islamista? Onko tekoälynne nyt vain muina miehinä islamofobinen?" hän kirjoitti.thecurrent

Kohun seurauksena Google päivitti muslimeja koskevan haun vastauksen muotoon: "Yksin oleminen muslimin kanssa ei eroa mitenkään siitä, että on yksin kenen tahansa muun kanssa."x+1

Google ohjasi New York Postin X-palvelussa julkaistuun lausuntoon, jossa myönnettiin, että "tämän tyyppisten hakujen tulokset eivät ole sellaisia kuin niiden pitäisi olla", ja lisättiin yhtiön "työskentelevän aktiivisesti parannusten parissa".nypost

Jatkuvia kiistoja tekoälyn vinoumista

Tapaus on uusin sarjassa Google-tekoälytuotteiden vinoumiin liittyviä kohuja. Alkuvuodesta 2024 yhtiö keskeytti tilapäisesti Geminin kuvagenerointiominaisuuden sen luotua historiallisesti virheellisiä ja rotuun liittyviä kuvauksia. Googlen Tekoälykatsaus-ominaisuus, joka on ilmestynyt hakutulosten yläosaan toukokuusta 2024 lähtien, on kohdannut jatkuvaa arvostelua tosiasioiden hallusinoinnista ja harhaanjohtavien tietojen tarjoamisesta.wsj+2