Google detiene las imágenes satelitales de IA, después de los temores de deepfakes en el cielo

Un día después de que Google presentara una nueva función que permitía a los usuarios crear imágenes satelitales generadas por IA con solo hacer clic en un botón en su plataforma Google Earth, la compañía anunció que eliminaría la herramienta.

“Hemos visto a profesionales geoespaciales usar esta función para una variedad de propósitos útiles”, dijo Google en un comunicado en X. “Sin embargo, también hemos visto personas que comparten capturas de pantalla de imágenes generadas que parecen violar nuestras políticas. Así que estamos deshaciendo esta función en Google Earth mientras trabajamos en implementar barreras de seguridad más fuertes”.

En su anuncio inicial de la nueva función el jueves, la compañía dijo que estaba diseñada para funcionar con la imaginación de los usuarios: “Simplemente acérquese a un lugar en Google Earth en la web (sic), toque ‘crear imagen’ y escriba lo que quiera ver”, escribió Bryan Horowitz, gerente de producto.

Pero para los expertos y analistas que confían en las imágenes de Google para verificar noticias de última hora y atrocidades en partes del mundo de difícil acceso, la posibilidad de crear imágenes satelitales ultrafalsas con solo hacer clic en un botón era aterradora.

“Probé con refugiados en la frontera mexicana, una planta nuclear en Irán, un accidente en Amsterdam, un hospital con un cráter de bomba en Gaza. No se rechazó nada”, dijo a NPR a través de un mensaje de texto Henk van Ess, un investigador de código abierto que escribió por primera vez sobre el daño potencial que podría causar la herramienta.

NPR pudo generar fácilmente imágenes de la isla Kharg en Irán en llamas y de un complejo del Capitolio de Estados Unidos inundado. Ambos hechos, que no han sucedido, constituirían una gran noticia si fueran reales.

En línea, periodistas e investigadores de código abierto se preguntaron en voz alta sobre la decisión de Google. “Es muy curioso cómo o si esta idea se abordó internamente porque las oportunidades de abuso y desinformación son literalmente ilimitadas”, escribió Evan Hill, investigador forense visual del Washington Post en X.

Ojos en el cielo

A medida que el mundo en línea se llena de deepfakes y basura generados por IA, las imágenes satelitales han sido una herramienta clave para comprender qué es real y qué no. Los investigadores de código abierto han utilizado imágenes satelitales para verificar eventos en el terreno y como referencia para comprender videos e imágenes compartidos en línea.

Las imágenes de Google Earth no siempre son las más actualizadas, pero su cobertura amplia y de alta resolución del planeta puede proporcionar imágenes de referencia importantes tanto para imágenes desde la Tierra como para imágenes más actuales de otros satélites.

“Las imágenes de satélite han sido una apuesta segura cuando se trata de verificar un evento porque son difíciles de falsificar”, dice Jake Godin, investigador principal del grupo en línea Bellingcat, que realiza investigaciones forenses visuales. Las imágenes satelitales suelen estar controladas por empresas o instituciones, y su fuente, una cámara a cientos de kilómetros sobre la superficie terrestre, ha sido históricamente difícil de imitar.

Falsificaciones del espacio

Godin señaló que ya han aparecido imágenes satelitales falsas en casos limitados. Al principio de la guerra entre Estados Unidos e Israel con Irán, por ejemplo, circularon imágenes falsas de una base estadounidense dañada en Bahréin. Las imágenes, que aparecieron en los medios iraníes, parecían utilizar imágenes de Google Earth y Google AI para generar daños falsos en la base. (Las imágenes de satélite reales mostraron más tarde que la base, de hecho, estaba dañada, pero no de la forma que se muestra en la imagen falsa).

Pero reunir las herramientas para crear imágenes satelitales generadas por IA con un solo clic tiene el potencial de acelerar enormemente la generación de falsificaciones de IA, dijo Godin. “Simplemente se está simplificando el proceso, lo que creo que hará que prolifere más”.

A Godin le preocupa que la difusión de imágenes falsas aumente la confusión y la desinformación. “La desinformación viaja más lejos y más rápido que cualquier tipo de corrección”, afirmó. Además, ahora será más probable que los gobiernos afirmen que las imágenes satelitales son falsas, incluso si son reales, lo que socava la confianza pública.

En una publicación en X el jueves, la compañía dijo que “se toma en serio la información errónea”. La compañía señaló que todas las imágenes están marcadas con su marca de agua SynthID, lo que garantiza que serán marcadas como generadas por IA en otras herramientas de Google como Gemini. “Además, evitamos la creación de imágenes sobre temas dañinos y actualizamos continuamente nuestras protecciones”, dijo.

Pero pocos en la comunidad de código abierto parecieron tranquilizarse con las declaraciones de Google. Para van Ess, la decisión duele especialmente porque Google Earth ha sido considerado durante mucho tiempo como una de las mejores herramientas para verificar la información publicada en las redes sociales.

Si Google continúa desarrollando la herramienta de inteligencia artificial, dijo, significaría que “la falsificación se hace dentro de lo que la gente usa para comprobar si las imágenes son verdaderas”.