El último experimento de inteligencia artificial de Google ha durado un día. El pasado jueves, la compañía integró su modelo de generación de imágenes, Nano Banana 2, dentro de Google Earth, permitiendo a cualquier usuario transformar la vista de satélite de cualquier rincón del planeta con una simple orden escrita. Este viernes, apenas 24 horas después, ha desactivado la función tras comprobar que se estaba utilizando para fabricar imágenes de satélite de acontecimientos que nunca habían ocurrido.
La función, basada en el modelo Nano Banana 2, permitía transformar con una simple orden de texto cualquier vista real del planeta
El último experimento de inteligencia artificial de Google ha durado un día. El pasado jueves, la compañía integró su modelo de generación de imágenes, Nano Banana 2, dentro de Google Earth, permitiendo a cualquier usuario transformar la vista de satélite de cualquier rincón del planeta con una simple orden escrita. Este viernes, apenas 24 horas después, ha desactivado la función tras comprobar que se estaba utilizando para fabricar imágenes de satélite de acontecimientos que nunca habían ocurrido.
Sobre el papel, la idea parecía atractiva. Bastaba con navegar hasta un lugar del planeta en la versión web de Google Earth, pulsar un botón de crear imagen y escribir lo que se quisiera ver. El modelo tomaba como base la imagen real de satélite y generaba sobre ella la escena solicitada.
Entre los ejemplos que la propia Google proponía estaban reconstruir Pompeya como la ciudad bulliciosa que era antes de la erupción del Vesubio, convertir la Estatua de la Libertad en una infografía ilustrada o visualizar el edificio que podría levantarse en un solar vacío.
Pero una diferencia importante de esta idea frente a otros generadores de imágenes con inteligencia artificial era el anclaje a imágenes del mundo real, con fotos por satélite, aéreas y modelos tridimensionales de prácticamente todo el planeta.
Ese atractivo terminó siendo su principal problema, ya que permitía crear imágenes bastante realistas de situaciones completamente imaginadas. Un periodista de 404 Media, por ejemplo, consiguió con una sola frase situar un campamento de refugiados junto a la frontera de México y EE.UU., una planta nuclear en Irán y un accidente mortal en una calle de Ámsterdam. La cadena pública estadounidense NPR generó una imagen del Capitolio de Washington inundado. Ninguna de esas escenas ocurrió, pero todas se apoyaban en la geografía real de un lugar, lo que las hacía considerablemente más creíbles que un montaje convencional.
24 horas después de lanzar la herramienta, Google reconocía en su blog oficial que varias capturas de imágenes generadas violaban sus políticas de uso y anunciaba la retirada de la función para crear sistemas de seguridad más estrictos.
El episodio deja en evidencia un problema que la industria de la IA todavía no ha resuelto. La presión por integrar modelos generativos en todos los productos choca con la dificultad de anticipar los usos maliciosos que harán algunos usuarios. La herramienta generativa de Google Earth tenía filtros. Imponía límites diarios de generación y marcaba el contenido como «experimental», pero ambos eran fáciles de burlar. Aunque las imágenes también están etiquetadas con una marca de agua invisible que las delata como generadas por IA, es un sistema fácil de esquivar y que rara vez se comprueba cuando una fotografía comienza a circular de forma viral por redes sociales.
Tecnología – Píxel
