Google trekker tilbake AI-bildeverktøy i Earth etter bekymring for deepfakes

Google Alphabet Inc. ↘ 1.62% trakk tilbake en AI-bildegenereringsfunksjon fra Google Earth på fredag, bare én dag etter lanseringen, etter rask og omfattende kritikk fra journalister, sikkerhetsforskere og etterforskere som advarte om at verktøyet var en oppskrift på geospatial feilinformasjon.

En funksjon som lot brukere fabrikkere virkeligheten

Funksjonen, drevet av Googles Nano Banana 2 AI-modell, ble lansert på torsdag og lot brukere skrive tekstmeldinger for å legge AI-genererte bilder over ekte satellittkart. Google markedsførte det som et kreativt verktøy for å visualisere historie, planlegge eiendomsprosjekter eller gjenskape steder.cnet+1

Men forskere demonstrerte umiddelbart hvor enkelt det kunne produsere overbevisende falske satellittbilder av sensitive hendelser. Henk van Ess, en åpen kildekode-forsker og grunnlegger av publikasjonen Digital Digging, genererte fabrikkerte bilder som viste flyktninger ved den meksikanske grensen, et atomkraftverk i Iran og et sykehus med et bombekrater i Gaza. "Ingenting ble avvist, ingenting ble dempet, og ingenting antydet at jeg skulle prøve en annen ledetekst," sa van Ess til NPR.npr+1

NPR genererte uavhengig bilder av Irans Kharg-øy i brann og et oversvømt amerikansk Capitol-kompleks. Evan Hill, en visuell rettsmedisinsk etterforsker ved Washington Post, skrev på X at han var "veldig nysgjerrig på hvordan eller om denne ideen ble testet internt, fordi mulighetene for misbruk og desinformasjon er bokstavelig talt grenseløse."npr

Googles helomvending

På fredag kom Google med en uttalelse på X der de anerkjente problemene. "Vi vet at folk stoler på Google Earth for et pålitelig syn på verden," sa selskapet. "Vi har sett geospatiale fagfolk bruke denne funksjonen til en rekke nyttige formål, men vi har også sett folk dele skjermbilder av genererte bilder som ser ut til å bryte retningslinjene våre. Derfor trekker vi tilbake denne funksjonen i Google Earth mens vi jobber med å implementere sterkere sikkerhetstiltak."techcrunch+2

Google bemerket at genererte bilder inkluderte deres SynthID digitale vannmerke og ikke dukket opp i hovedopplevelsen til Google Earth for andre brukere. Men kritikere mente beskyttelsen var utilstrekkelig. Van Ess kjørte et skjermopptak av sine falske bilder gjennom tredjeparts AI-deteksjonsverktøyet Hive, som vurderte det til 99,2 prosent sannsynlig å være ekte.theverge+1

Hvorfor satellittbilder betyr noe

Motreaksjonen reflekterte en dypere bekymring: satellittbilder har lenge fungert som et pålitelig verifiseringsverktøy for journalister og menneskerettighetsforkjempere som jobber i konfliktområder og områder som er vanskelige å nå. "Satellittbilder har vært et slags trygt valg når det gjelder å verifisere en hendelse fordi det er vanskelig å forfalske," sa Jake Godin, en seniorforsker ved Bellingcat.npr

Van Ess fanget opp hovedspenningen i en linje fra nyhetsbrevet sitt: "Google brukte tjue år på å bygge referansen verden sjekker mot. I dag la de til en knapp som finner på ting."cnet