Google retira la herramienta de IA de Google Earth tras las críticas por falsificaciones

Google Alphabet Inc. ↗ 0.77% retiró una función de generación de imágenes basada en IA de Google Earth después de que investigadores, periodistas y analistas de inteligencia de fuentes abiertas demostraran que podía producir fácilmente imágenes satelitales engañosas de eventos fabricados.

La herramienta, que utilizaba el generador de imágenes Nano Banana 2 de Google, se lanzó el 30 de julio y fue retirada aproximadamente un día después tras una ola de críticas por su potencial de uso indebido.axios+2

Reacción inmediata

La función permitía a cualquiera ampliar una ubicación en la versión web de Google Earth, pulsar en "crear imagen" e introducir una descripción para generar imágenes por IA utilizando fotos satelitales reales como base. En cuestión de horas, los investigadores demostraron que la herramienta generaba representaciones fotorrealistas de sucesos que jamás ocurrieron.malwarebytes

El investigador holandés de inteligencia de fuentes abiertas Henk van Ess dijo a NPR que probó la herramienta exhaustivamente: "Probé con refugiados en la frontera mexicana, una planta nuclear en Irán, un accidente en Ámsterdam, un hospital con un cráter de bomba en Gaza. Nada fue rechazado". La propia NPR fabricó una imagen de la isla de Jarg en Irán en llamas, mientras que la BBC produjo imágenes de la Torre Eiffel derrumbada y generó daños falsos en la Gran Pirámide de Guiza.thebrasilians+1

Google reconoció el problema en un comunicado en X: "Hemos visto a profesionales geoespaciales utilizar esta función con diversos fines útiles, sin embargo, también hemos visto a personas compartir capturas de pantalla de imágenes generadas que parecen infringir nuestras políticas. Por lo tanto, estamos retirando esta función en Google Earth mientras trabajamos en la implementación de medidas de seguridad más estrictas".axios+2

Amenaza para la verificación

Para la comunidad de inteligencia de fuentes abiertas, la preocupación va más allá de un lanzamiento fallido. Las imágenes por satélite han sido un pilar fundamental en el trabajo de verificación, empleadas para confirmar sucesos sobre el terreno y desmentir grabaciones sospechosas. Jake Godin, investigador principal del grupo de investigación Bellingcat, declaró a NPR que las imágenes satelitales han sido históricamente "una opción segura cuando se trata de verificar un hecho porque son difíciles de falsificar".thebrasilians

La integración causó un "daño inmediato y catastrófico a la credibilidad de las imágenes satelitales", afirmó en una publicación la cuenta OSINTtechnical, que tiene casi dos millones de seguidores en X.axios

Las marcas de agua ofrecieron poca protección

Google señaló su sistema de marcas de agua SynthID y el hecho de que las imágenes generadas no aparecían en la experiencia principal de Google Earth. Sin embargo, los investigadores descubrieron que las marcas de agua invisibles no eran detectables de forma fiable ni siquiera por la propia IA Gemini de Google, y que los usuarios podían simplemente tomar capturas de pantalla de las imágenes y compartirlas sin ninguna señal visible de procedencia.malwarebytes+1

Para van Ess, el episodio dio en el centro del problema: la herramienta significaba que "la falsificación se realiza dentro del mismo instrumento que la gente usa para comprobar si las fotos son verdaderas".thebrasilians