Google anunció la suspensión de la función de generación de imágenes por IA en Google Earth, la cual fue desactivada tras menos de 48 horas de lanzamiento debido a riesgos de desinformación. Previamante, Google había integrado el modelo de generación de imágenes Nano Banana2 en Google Earth, permitiendo a los usuarios generar escenarios ficticios sobre imágenes satelitales reales mediante instrucciones de texto. Pruebas realizadas por la BBC revelaron que la función podía generar escenarios falsos como "la Torre Eiffel derrumbada", "las pirámides devoradas por un sumidero" y "tanques rusos en Kiev", con un alto grado de realismo que los hacía fácilmente confundibles con imágenes satelitales reales. Expertos en seguridad advirtieron que, en eventos sensibles como guerras o desastres naturales, mapas sintéticos podrían utilizarse para difundir desinformación y confundir al público y los medios. Google indicó que todas las imágenes generadas por IA incluyen una marca de agua digital invisible y son verificables mediante Gemini o Google Lens, pero las pruebas de la BBC mostraron que algunos mecanismos de verificación podrían ser eludidos. Este incidente refleja que, al introducir IA generativa en escenarios de alta confiabilidad como los mapas, prevenir la difusión de deepfakes y desinformación se ha convertido en un importante desafío de seguridad.Autor del artículo, fuente: AIBase
Google anunció la suspensión de la nueva función de generación de imágenes con IA en Google Earth. La función, lanzada hace menos de 48 horas, fue temporalmente desactivada debido a riesgos potenciales de desinformación, y la empresa declaró que fortalecerá aún más las medidas de seguridad. Anteriormente, Google había integrado el modelo de generación de imágenes Nano Banana2 en Google Earth, permitiendo a los usuarios generar escenarios ficticios sobre imágenes satelitales reales, fotografías aéreas y mapas tridimensionales mediante instrucciones de texto.
Según pruebas realizadas por la BBC, esta función puede generar escenarios falsos como "el colapso de la Torre Eiffel", "un enorme sumidero que se traga las pirámides de Egipto" y "tanques rusos apareciendo en Kiev", y permite descargarlos y compartirlos directamente. Cuando este contenido generado por IA se combina con coordenadas geográficas reales y mapas de fondo de Google Earth, adquiere una alta apariencia de realismo y puede ser fácilmente confundido con imágenes satelitales auténticas.
Los expertos en seguridad señalan que, durante eventos sensibles como guerras o desastres naturales, estos mapas sintéticos altamente realistas podrían utilizarse para difundir desinformación, confundir al público, los medios de comunicación e incluso a los investigadores, planteando nuevos desafíos para la verificación de la información.
Google indica que todas las imágenes generadas por IA incorporan una marca de agua digital invisible y admiten la verificación de autenticidad a través de Gemini o Google Lens. Sin embargo, las pruebas de la BBC revelaron que algunos mecanismos de verificación aún pueden ser evitados, y algunas herramientas de detección de terceros no pueden identificar de manera estable el contenido generado por IA.
Esta interrupción del servicio refleja que, a medida que la IA generativa avanza hacia escenarios de alta confiabilidad como mapas y teledetección, cómo mejorar la capacidad de creación al mismo tiempo que se previene la difusión de deepfakes e información falsa se ha convertido en un problema de seguridad clave que debe abordarse en la implementación de productos de IA.