Google veti Earthin tekoälytyökalun pois deepfake-huolien vuoksi

Google Alphabet Inc. ↗ 6.88% veti perjantaina tekoälypohjaisen kuvagenerointiominaisuuden pois Google Earthista vain päivä sen julkaisun jälkeen. Päätös seurasi toimittajien, turvallisuustutkijoiden ja avoimen lähdekoodin tutkijoiden nopeaa ja laajaa kritiikkiä, jossa varoitettiin työkalun olevan resepti paikkatietoa koskevalle disinformaatiolle.

Ominaisuus, joka antoi käyttäjien vääristellä todellisuutta

Googlen Nano Banana 2 -tekoälymallilla toimiva ominaisuus julkaistiin torstaina, ja se salli käyttäjien luoda tekstikehotteiden avulla tekoälykuvia oikeiden satelliittikarttojen päälle. Google markkinoi sitä luovana työkaluna historian visualisointiin, kiinteistöprojektien suunnitteluun tai paikkojen uudelleenkuvitteluun.cnet+1

Tutkijat osoittivat kuitenkin välittömästi, kuinka helposti sillä voitiin tuottaa vakuuttavia väärennettyjä satelliittikuvia arkaluontoisista tapahtumista. Avoimen lähdekoodin tutkija ja Digital Digging -julkaisun perustaja Henk van Ess loi väärennettyjä kuvia, joissa näkyi pakolaisia Meksikon rajalla, ydinvoimala Iranissa ja sairaala, jossa oli pommin aiheuttama kraatteri Gazassa. "Mikään ei tullut hylätyksi, mitään ei pehmennetty, eikä mikään ehdottanut minun kokeilevan toista kehotetta", van Ess kertoi NPR:lle.npr+1

NPR loi itsenäisesti kuvia palavasta Iranin Kharg-saaresta ja tulvivasta Yhdysvaltain kongressitalon alueesta. Washington Postin visuaalisen forensiikan tutkija Evan Hill kirjoitti X-palvelussa olevansa "erittäin utelias siitä, miten tai onko tätä ideaa testattu sisäisesti, koska mahdollisuudet väärinkäytöksiin ja disinformaatioon ovat kirjaimellisesti rajattomat".npr

Googlen perääntyminen

Perjantaina Google julkaisi X-palvelussa lausunnon, jossa se myönsi ongelmat. "Tiedämme, että ihmiset luottavat Google Earthiin ainutlaatuisella tavalla luotettavana näkymänä maailmaan", yhtiö totesi. "Olemme nähneet paikkatietoalan ammattilaisten käyttävän tätä ominaisuutta moniin hyödyllisiin tarkoituksiin, mutta olemme myös nähneet ihmisten jakavan kuvakaappauksia generoiduista kuvista, jotka näyttävät rikkovan käytäntöjämme. Siksi poistamme tämän ominaisuuden Google Earthista samalla kun työskentelemme vahvempien suojakaiteiden toteuttamiseksi".techcrunch+2

Google huomautti, että generoidut kuvat sisälsivät sen SynthID-digitaalisen vesileiman eivätkä ne näkyneet muille käyttäjille Google Earthin pääkokemuksessa. Kriitikot pitivät näitä suojatoimia kuitenkin riittämättöminä. Van Ess ajoi ruutukaappauksen väärennetyistä kuvistaan kolmannen osapuolen tekoälyntunnistustyökalu Hiven läpi, joka arvioi niiden olevan 99,2-prosenttisella todennäköisyydellä aitoja.theverge+1

Miksi satelliittikuvilla on merkitystä

Kritiikki heijasti syvempää huolta: satelliittikuvat ovat pitkään toimineet luotettavana varmennustyökaluna toimittajille ja ihmisoikeustutkijoille, jotka työskentelevät konfliktialueilla ja vaikeapääsyisillä alueilla. "Satelliittikuvat ovat olleet eräänlainen varma valinta tapahtumien varmentamisessa, koska niitä on vaikea väärentää", sanoi Bellingcatin johtava tutkija Jake Godin.npr

Van Ess tiivisti keskeisen jännitteen uutiskirjeensä rivillä: "Google käytti kaksikymmentä vuotta rakentaakseen referenssin, jota maailma käyttää tarkistamiseen. Tänään se lisäsi napin, joka keksii asioita".cnet