Google poisti tekoälytyökalun Google Earthista syväväärennöskohun seurauksena

Google Alphabet Inc. ↘ 4.05% poisti tekoälyä hyödyntävän kuvagenerointiominaisuuden Google Earthista sen jälkeen, kun tutkijat, toimittajat ja avointen lähteiden tiedusteluanalyytikot osoittivat sen pystyvän helposti tuottamaan harhaanjohtavia satelliittikuvia keksityistä tapahtumista.

Työkalu, joka käytti Googlen Nano Banana 2 -kuvageneraattoria, julkaistiin 30. heinäkuuta ja poistettiin noin vuorokautta myöhemmin sen väärinkäyttömahdollisuuksista nousleen kritiikkiaallon seurauksena.axios+2

Välitön vastareaktio

Ominaisuus mahdollisti sen, että kuka tahansa saattoi lähentää mihin tahansa paikkaan Google Earthin verkkoversiossa, napsauttaa "luo kuva" ja kirjoittaa kehotteen luodakseen tekoälykuvia aitojen satelliittikuvien pohjalta. Muutamassa tunnissa tutkijat osoittivat työkalun luovan fotorealistisia esityksiä tapahtumista, joita ei koskaan tapahtunut.malwarebytes

Hollantilainen avointen lähteiden tiedustelututkija Henk van Ess kertoi NPR:lle testanneensa työkalua kattavasti: "Kokeilin pakolaisia Meksikon rajalla, ydinvoimalaa Iranissa, onnettomuutta Amsterdamissa, sairaalaa ja pommikraatteria Gazassa. Mitään ei hylätty". NPR luoti itse kuvan syttyneestä Iranin Kharg-saaresta, kun taas BBC tuotti kuvia romahdanneesta Eiffel-tornista ja luoti tekovaurioita Gizan suureen pyramidiin.thebrasilians+1

Google tunnusti ongelman X-palvelussa julkaistussa lausunnossaan: "Olemme nähneet paikkatietoalan ammattilaisten käyttävän tätä ominaisuutta hyödyllisiin tarkoituksiin, mutta olemme myös nähneet ihmisten jakavan kuvankaappauksia luoduista kuvista, jotka näyttävät rikkovan käyttöehtojamme. Siksi perumme tämän ominaisuuden Google Earthissa samalla kun työskentelemme tiukempien suojatoimien käyttöönottamiseksi".axios+2

Uhka varmentamiselle

Avointen lähteiden tiedusteluyhteisölle huoli on syvempää kuin yksi epäonnistunut tuotejulkaisu. Satelliittikuvat ovat toimineet varmentamistyön kulmakivenä, ja niitä on käytetty vahvistamaan tapahtumia paikan päällä sekä kumoamaan epäilyttäviä kuvanauhoja. Bellingcat-tutkintaryhmän vanhempi tutkija Jake Godin kertoi NPR:lle, että satelliittikuvat ovat historiallisesti olleet "turvallinen valinta tapahtuman varmentamisessa, koska niitä on vaikea väärentää".thebrasilians

Ominaisuuden integrointi aiheutti "välitöntä ja katastrofaalista vahinkoa satelliittikuvien uskottavuudelle", X:ssä lähes 2 miljoonaa seuraajaa kerännyt OSINTtechnical-tili totesi julkaisussaan.axios

Vesileimat tarjosivat vain vähän suojaa

Google vetosi SynthID-vesileimajärjestelmäänsä ja siihen, että luodut kuvat eivät ilmestyneet Google Earthin päänäkymään. Tutkijat kuitenkin havaitsivat, että näkymättömiä vesileimoja ei pystynyt luotettavasti havaitsemaan jopa Googlen oma Gemini-tekoäly, ja käyttäjät saattoivat yksinkertaisesti ottaa kuvankaappauksia ja jakaa niitä ilman minkäänlaista näkyvää alkuperämerkintää.malwarebytes+1

Van Essille tapaus osui ongelman ytimeen: työkalu tarkoitti, että "väärennös tehdään sen asian sisällä, jota ihmiset käyttävät tarkistaakseen, ovatko kuvat totta".thebrasilians