Google, Google Earth'deki AI görüntü oluşturma özelliğini 48 saatten az bir sürede sahte bilgi riski nedeniyle askıya aldı. Google, önceki olarak Nano Banana2 adlı görüntü oluşturma modelini Google Earth'e entegre ederek kullanıcıların metin komutları ile gerçek uydu görüntülerinin üzerine hayali sahneler oluşturmasını sağlıyordu. BBC'nin yaptığı testler, bu özelliğin "Eiffel Kulesi'nin çökmesi", "Piramitler'in bir çukur tarafından yutulması", "Rus askeri tanklarının Kiev'de görünmesi" gibi sahte sahneler ürettiğini gösterdi; bu sahneler yüksek gerçekçilik derecesine sahipti ve gerçek uydu görüntülerine kolayca karıştırılabilirdi. Güvenlik uzmanları, savaşlar ve doğal afetler gibi hassas olaylarda sentetik haritaların sahte bilgi yaymak ve kamuoyunu ile medyayı yanıltmak için kullanılabileceğini uyardı. Google, tüm AI görüntülerinin gizli dijital su damlalarıyla işaretlendiğini ve Gemini veya Google Lens ile doğrulanabilir olduğunu belirtti; ancak BBC'nin testleri bazı doğrulama mekanizmalarının atlanabilir olabileceğini gösterdi. Bu olay, üretken AI'nın yüksek güvenilirlik gerektiren harita gibi alanlara girmesiyle derin sahtekârlık ve sahte bilgi yayılmasını önlemek için önemli bir güvenlik zorluğu ortaya çıktığını göstermektedir.Yazan: AIBase
Google, Google Earth'e yeni eklenen AI görüntü oluşturma özelliğini askıya aldı. Bu özellik, potansiyel sahte bilgi riski nedeniyle 48 saatten az bir süre sonra geçici olarak kapatıldı ve resmi açıklama, güvenlik önlemlerinin daha da güçlendirileceğini belirtti. Daha önce, Google, Google Earth'e Nano Banana2 görüntü oluşturma modelini entegre ederek kullanıcıların metin komutları ile gerçek uydu görüntülerinde, hava fotoğraflarında ve üç boyutlu haritalarda hayali sahneler oluşturmasını sağladı.
BBC testlerine göre, bu özellik, "Eiffel Kulesi'nin çökmesi", "devasa bir çukurun Mısır piramitlerini yutması" ve "Rus askeri tanklarının Kiev'de görünmesi" gibi sahte senaryolar oluşturabilir ve doğrudan indirilebilir ve paylaşılabilir. Bu AI tarafından oluşturulan içerikler, gerçek coğrafi koordinatlar ve Google Earth arka plan haritalarıyla birleştirildiğinde, gerçek uydu görüntüsü olarak yanlış anlaşılabilir.
Güvenlik uzmanları, savaş ve doğal afetler gibi hassas olaylarda bu kadar gerçekçi sentetik haritaların, kamuoyunu, medyayı ve hatta araştırmacıları yanıltmak amacıyla sahte bilgi yaymak için kullanılabileceğini ve bilgi doğrulamaya yeni zorluklar getirebileceğini belirtti.
Google, tüm AI tarafından oluşturulan görüntülere gizli dijital su damlası eklediğini ve doğrulama için Gemini veya Google Lens'in desteklendiğini belirtti. Ancak BBC'nin testleri, bazı doğrulama mekanizmalarının hala atlanabilir olduğunu ve bazı üçüncü taraf tespit araçlarının AI tarafından oluşturulan içerikleri istikrarlı bir şekilde tanımlayamadığını gösterdi.
Bu hizmet durdurması, üretken AI'nın haritalama, uzaktan algılama gibi yüksek güvenilirlik gerektiren bilgi senaryolarına yavaş yavaş girmesiyle, yaratıcılığı artırırken derin sahtekârlık ve sahte bilgi yayılmasını önlemek için AI ürünleri uygulaması sırasında öncelikli olarak çözülmesi gereken güvenlik sorunları ortaya çıkmıştır.