Google fjerner KI-bildeverktøy fra Google Earth etter protester

Google Alphabet Inc. ↘ 1.08% fjerner en KI-drevet bildegenereringsfunksjon fra Google Earth etter at forskere, journalister og åpne kilder-analytikere (OSINT) demonstrerte at den enkelt kunne lage misvisende satellittbilder av oppdiktede hendelser.

Verktøyet, som brukte Googles Nano Banana 2-bildegenerator, ble lansert 30. juli og trukket tilbake omtrent et døgn senere etter en bølge av kritikk om potensialet for misbruk.axios+2

Umiddelbare reaksjoner

Funksjonen gjorde det mulig for hvem som helst å zoome inn på et sted i nettversjonen av Google Earth, trykke på "opprett bilde" og skrive inn en tekstbeskrivelse for å generere KI-bilder med ekte satellittbilder som base. Innen få timer viste forskere at verktøyet kunne lage fotorealistiske fremstillinger av hendelser som aldri har funnet sted.malwarebytes

Den nederlandske OSINT-forskeren Henk van Ess sa til NPR at han testet verktøyet grundig: "Jeg prøvde flyktninger ved den meksikanske grensen, et kjernefysisk anlegg i Iran, et krasj i Amsterdam, et sykehus med et bombekrater i Gaza. Ingenting ble avvist". NPR laget selv et falskt bilde av at den iranske øya Kharg sto i brann, mens BBC genererte bilder av et kollapset Eiffeltårn og falske skader på Giza-pyramidene.thebrasilians+1

Google erkjente problemet i en uttalelse på X: "Vi har sett at fagfolk innen geodata bruker denne funksjonen til en rekke nyttige formål, men vi har også sett at folk deler skjermbilder av genererte bilder som ser ut til å bryte med våre retningslinjer. Vi ruller derfor tilbake denne funksjonen i Google Earth mens vi jobber med å innføre sterkere sikkerhetstiltak".axios+2

Trussel mot verifisering

For miljøet innen åpne kilder (OSINT) stikker bekymringen dypere enn en enkelt mislykket produktlansering. Satellittbilder har fungert som en grunnpilar i verifiseringsarbeid, brukt til å bekrefte hendelser på bakken og avkrefte mistenkelige opptak. Jake Godin, en seniorforsker i gravegruppen Bellingcat, uttalte til NPR at satellittbilder historisk har vært "et trygt valg når det gjelder å verifisere en hendelse fordi det er vanskelig å forfalske".thebrasilians

Integreringen gjorde "umiddelbar, katastrofal skade på satellittbilders troverdighet," skrev kontoen OSINTtechnical, som har nesten 2 millioner følgere på X, i et innlegg.axios

Vannmerker ga liten beskyttelse

Google viste til sitt SynthID-vannmerkesystem og det faktum at genererte bilder ikke dukket opp i selve hovedopplevelsen i Google Earth. Forskere fant imidlertid ut at de usynlige vannmerkene ikke kunne oppdages pålitelig, selv av Googles egen Gemini KI, og at brukere ganske enkelt kunne ta skjermbilde av bildene og dele dem uten noen synlig opprinnelsesmerking.malwarebytes+1

For van Ess traff episoden kjernen i problemet: Verktøyet førte til at "forfalskningen blir laget inne i det verktøyet folk bruker for å sjekke om bilder er sanne".thebrasilians