O Google anunciou a suspensão da funcionalidade de geração de imagens por IA no Google Earth, que foi desativada em menos de 48 horas após o lançamento devido ao risco de disseminação de informações falsas. Anteriormente, o Google havia integrado o modelo de geração de imagens Nano Banana2 ao Google Earth, permitindo que os usuários gerassem cenas fictícias sobre imagens de satélite reais por meio de instruções de texto. Testes da BBC descobriram que a funcionalidade podia gerar cenas falsas como “a Torre Eiffel desmoronando”, “as pirâmides engolidas por um abismo” e “tanques russos aparecendo em Kiev”, com alto grau de realismo, facilitando a confusão com imagens de satélite reais. Especialistas em segurança alertaram que, em eventos sensíveis como guerras e desastres naturais, mapas sintéticos podem ser usados para espalhar desinformação e enganar o público e a mídia. O Google afirmou que todas as imagens geradas por IA incluem marcas d'água digitais invisíveis e são compatíveis com verificação por meio do Gemini ou do Google Lens, mas testes da BBC indicaram que alguns mecanismos de verificação podem ser contornados. Este incidente revela que, à medida que a IA generativa entra em cenários de alta confiabilidade, como mapas, prevenir deepfakes e a propagação de desinformação tornou-se um importante desafio de segurança.Autor do artigo, fonte: AIBase
O Google anunciou a suspensão da nova funcionalidade de geração de imagens por IA no Google Earth. A funcionalidade, lançada há menos de 48 horas, foi temporariamente desativada devido a riscos potenciais de desinformação, e a empresa declarou que reforçará ainda mais as medidas de segurança. Anteriormente, o Google havia integrado o modelo de geração de imagens Nano Banana2 ao Google Earth, permitindo que os usuários gerassem cenas fictícias sobre imagens de satélite reais, fotos aéreas e mapas tridimensionais por meio de instruções de texto.
Segundo testes da BBC, a funcionalidade é capaz de gerar cenários falsos, como “a Torre Eiffel desmoronando”, “um enorme abismo engolindo as Pirâmides do Egito” e “tanques russos aparecendo em Kiev”, e permite download e compartilhamento diretos. Quando combinados com coordenadas geográficas reais e fundos do Google Earth, esses conteúdos gerados por IA possuem alta credibilidade e容易 ser confundidos com imagens de satélite reais.
Especialistas em segurança apontam que, durante eventos sensíveis, como guerras e desastres naturais, esses mapas sintéticos altamente realistas podem ser usados para espalhar desinformação, confundir o público, a mídia e até mesmo investigadores, trazendo novos desafios para a verificação de informações.
O Google afirma que todas as imagens geradas por IA são incorporadas com uma marca d'água digital invisível e suportam verificação de autenticidade por meio do Gemini ou do Google Lens. No entanto, testes da BBC descobriram que alguns mecanismos de verificação ainda podem ser contornados, e algumas ferramentas de detecção de terceiros não conseguem identificar de forma estável conteúdo gerado por IA.
Esta interrupção do serviço reflete que, à medida que a IA generativa avança para cenários de alta confiabilidade, como mapas e sensoriamento remoto, como aumentar a capacidade criativa ao mesmo tempo em que se previne a disseminação de deepfakes e informações falsas está se tornando uma questão de segurança crucial a ser resolvida na implementação de produtos de IA.