Google retira herramienta de IA en Earth tras críticas por deepfakes

Google Alphabet Inc. ↗ 6.88% retiró el viernes una función de generación de imágenes por IA de Google Earth, solo un día después de su lanzamiento, tras las rápidas y generalizadas críticas de periodistas, investigadores de seguridad y expertos en código abierto, quienes advirtieron que la herramienta era una receta para la desinformación geoespacial.

Una función que permitía fabricar la realidad

La función, impulsada por el modelo de IA Nano Banana 2 de Google, se lanzó el jueves y permitía a los usuarios escribir instrucciones de texto para superponer imágenes generadas por IA sobre mapas satelitales reales. Google la presentó como una herramienta creativa para visualizar la historia, planificar proyectos inmobiliarios o reimaginar ubicaciones.cnet+1

Sin embargo, los investigadores demostraron de inmediato lo fácil que era producir imágenes satelitales falsas convincentes de eventos sensibles. Henk van Ess, investigador de código abierto y fundador de la publicación de investigación Digital Digging, generó imágenes fabricadas que mostraban refugiados en la frontera mexicana, una planta nuclear en Irán y un hospital con un cráter de bomba en Gaza. "Nada fue rechazado, nada fue suavizado y nada sugirió que probara una instrucción diferente", declaró van Ess a NPR.npr+1

NPR generó de forma independiente imágenes de la isla iraní de Kharg en llamas y del complejo del Capitolio de EE. UU. inundado. Evan Hill, investigador de forense visual en el Washington Post, escribió en X que sentía "mucha curiosidad sobre cómo o si esta idea fue probada internamente, ya que las oportunidades para el abuso y la desinformación son literalmente ilimitadas".npr

La reversión de Google

El viernes, Google emitió un comunicado en X reconociendo los problemas. "Sabemos que la gente confía de forma única en Google Earth para obtener una visión fiable del mundo", afirmó la empresa. "Hemos visto a profesionales geoespaciales utilizando esta función para diversos fines útiles, sin embargo, también hemos visto a personas compartiendo capturas de pantalla de imágenes generadas que parecen violar nuestras políticas. Por ello, estamos retirando esta función de Google Earth mientras trabajamos en la implementación de salvaguardas más sólidas".techcrunch+2

Google señaló que las imágenes generadas incluían su marca de agua digital SynthID y no aparecían en la experiencia principal de Google Earth para otros usuarios. Pero los críticos consideraron que esas protecciones eran insuficientes. Van Ess pasó una grabación de pantalla de sus imágenes falsas por la herramienta de detección de IA de terceros Hive, que la calificó con un 99.2% de probabilidad de ser real.theverge+1

Por qué importan las imágenes satelitales

La reacción reflejó una preocupación más profunda: las imágenes satelitales han servido durante mucho tiempo como una herramienta de verificación fiable para periodistas e investigadores de derechos humanos que trabajan en zonas de conflicto y áreas de difícil acceso. "Las imágenes satelitales han sido una apuesta segura a la hora de verificar un evento porque es difícil de falsificar", dijo Jake Godin, investigador principal de Bellingcat.npr

Van Ess capturó la tensión central en una frase de su boletín: "Google pasó veinte años construyendo la referencia que el mundo utiliza para verificar. Hoy añadió un botón que inventa cosas".cnet