Google a annoncé la suspension de la fonction de génération d'images par IA sur Google Earth, fonction retirée moins de 48 heures après son lancement en raison de risques d'informations falsifiées. Google avait précédemment intégré le modèle de génération d'images Nano Banana2 dans Google Earth, permettant aux utilisateurs de générer des scènes fictives sur des images satellites réelles via des commandes textuelles. Des tests réalisés par la BBC ont révélé que cette fonction pouvait produire des scènes falsifiées telles que « la Tour Eiffel en ruines », « les pyramides englouties par un trou » ou « des chars russes à Kiev », avec un haut niveau de réalisme, rendant difficile la distinction avec des images satellites authentiques. Des experts en sécurité ont averti que, dans des contextes sensibles tels que les conflits armés ou les catastrophes naturelles, des cartes synthétisées pourraient être utilisées pour propager de fausses informations et tromper le public et les médias. Google a indiqué que toutes les images générées par IA étaient marquées par un filigrane numérique invisible et qu'elles pouvaient être vérifiées via Gemini ou Google Lens, mais les tests de la BBC ont montré que certains mécanismes de vérification pouvaient être contournés. Cet événement souligne que, lorsqu'une IA générative est intégrée à des domaines à haute confiance comme les cartes, la prévention des deepfakes et la lutte contre la propagation d'informations fausses constituent un défi de sécurité majeur.Auteur et source de l'article : AIBase
Google a annoncé la suspension de la nouvelle fonctionnalité de génération d'images par IA sur Google Earth. Cette fonction, mise en ligne il y a moins de 48 heures, a été temporairement désactivée en raison de risques potentiels liés à la désinformation ; l'entreprise a déclaré qu'elle renforcerait davantage ses mesures de sécurité. Précédemment, Google avait intégré le modèle de génération d'images Nano Banana2 dans Google Earth, permettant aux utilisateurs de générer des scènes fictives sur des images satellites réelles, des photos aériennes et des cartes 3D à l'aide d'instructions textuelles.
Selon un test réalisé par la BBC, cette fonctionnalité peut générer des scénarios falsifiés tels que « la tour Eiffel s'effondre », « un énorme trou noir engloutit les pyramides d'Égypte » et « des chars russes apparaissent à Kiev », et permet de les télécharger et de les partager directement. Ces contenus générés par l'IA, lorsqu'ils sont combinés avec des coordonnées géographiques réelles et des fonds cartographiques de Google Earth, présentent une forte apparence de réalité et sont facilement confondus avec des images satellitaires authentiques.
Des experts en sécurité soulignent que, lors d'événements sensibles tels que des guerres ou des catastrophes naturelles, ces cartes synthétiques hautement réalistes pourraient être utilisées pour propager de fausses informations, tromper le public, les médias et même les enquêteurs, posant de nouveaux défis à la vérification des informations.
Google affirme que toutes les images générées par l'IA contiennent un filigrane numérique invisible et permettent une vérification d'authenticité via Gemini ou Google Lens. Toutefois, des tests menés par la BBC ont révélé que certains mécanismes de vérification peuvent encore être contournés, et que certains outils de détection tiers ne parviennent pas à identifier de manière fiable le contenu généré par l'IA.
Cette suspension de service reflète que, à mesure que l'IA générative s'intègre progressivement à des scénarios exigeant une haute fiabilité tels que la cartographie et la télédétection, comment améliorer les capacités de création tout en prévenant la diffusion de deepfakes et d'informations fausses devient une question de sécurité cruciale à résoudre lors du déploiement des produits d'IA.