Google drar tillbaka AI-bildverktyg i Earth efter kritik om deepfakes

Google Alphabet Inc. ↗ 6.88% drog tillbaka en AI-bildgenereringsfunktion från Google Earth på fredagen, bara en dag efter lanseringen, efter snabb och omfattande kritik från journalister, säkerhetsforskare och utredare som varnade för att verktyget var ett recept för geospatial desinformation.

En funktion som lät användare fabrikera verkligheten

Funktionen, som drivs av Googles Nano Banana 2 AI-modell, lanserades på torsdagen och lät användare skriva textmeddelanden för att lägga AI-genererade bilder över riktiga satellitkartor. Google marknadsförde det som ett kreativt verktyg för att visualisera historia, planera fastighetsprojekt eller återskapa platser.cnet+1

Men forskare demonstrerade omedelbart hur enkelt det kunde producera övertygande falska satellitbilder av känsliga händelser. Henk van Ess, en forskare inom öppen källkod och grundare av publikationen Digital Digging, genererade fabricerade bilder som visade flyktingar vid den mexikanska gränsen, ett kärnkraftverk i Iran och ett sjukhus med en bombkrater i Gaza. "Ingenting avvisades, ingenting dämpades och ingenting antydde att jag skulle prova en annan ledtext," sa van Ess till NPR.npr+1

NPR genererade oberoende bilder av Irans Kharg-ö i brand och ett översvämmat amerikanskt Capitol-komplex. Evan Hill, en visuell rättsmedicinsk utredare vid Washington Post, skrev på X att han var "väldigt nyfiken på hur eller om denna idé testades internt, eftersom möjligheterna för missbruk och desinformation är bokstavligen gränslösa."npr

Googles helomvändning

På fredagen kom Google med ett uttalande på X där de erkände problemen. "Vi vet att folk litar på Google Earth för en pålitlig bild av världen," sa företaget. "Vi har sett geospatiala yrkesverksamma använda denna funktion för en rad användbara syften, men vi har också sett folk dela skärmdumpar av genererade bilder som verkar bryta mot våra riktlinjer. Därför drar vi tillbaka denna funktion i Google Earth medan vi arbetar med att implementera starkare säkerhetsåtgärder."techcrunch+2

Google noterade att genererade bilder inkluderade deras SynthID digitala vattenstämpel och inte dök upp i huvudupplevelsen för Google Earth för andra användare. Men kritiker ansåg att skyddet var otillräckligt. Van Ess körde en skärminspelning av sina falska bilder genom tredjeparts AI-detekteringsverktyget Hive, som bedömde det till 99,2 procent sannolikt att vara äkta.theverge+1

Varför satellitbilder spelar roll

Motreaktionen reflekterade en djupare oro: satellitbilder har länge fungerat som ett pålitligt verifieringsverktyg för journalister och människorättsförsvarare som arbetar i konfliktzoner och områden som är svåra att nå. "Satellitbilder har varit ett slags säkert kort när det gäller att verifiera en händelse eftersom det är svårt att förfalska," sa Jake Godin, en seniorforskare vid Bellingcat.npr

Van Ess fångade huvudspänningen i en rad från sitt nyhetsbrev: "Google spenderade tjugo år på att bygga referensen som världen kontrollerar mot. Idag lade de till en knapp som hittar på saker."cnet