Google mengumumkan penangguhan fungsi penghasil gambar AI di Google Earth, yang ditutup kurang dari 48 jam selepas dilancarkan akibat risiko maklumat palsu. Sebelum ini, Google mengintegrasikan model penghasil gambar Nano Banana2 ke dalam Google Earth, membenarkan pengguna menghasilkan adegan fiksyen di atas imej satelit sebenar melalui arahan teks. Ujian BBC mendapati fungsi ini boleh menghasilkan adegan palsu seperti "Menara Eiffel runtuh", "Piramid ditelan lubang besar", dan "Tank tentera Rusia muncul di Kyiv", dengan tingkat realisme yang tinggi dan mudah disangka sebagai imej satelit sebenar. Pakar keselamatan memperingatkan bahawa peta sintetik mungkin digunakan untuk menyebarkan maklumat palsu dan menyesatkan awam serta media semasa peristiwa sensitif seperti peperangan atau bencana semula jadi. Google menyatakan semua gambar AI telah disematkan tanda air digital tak kelihatan dan menyokong pengesahan melalui Gemini atau Google Lens, tetapi ujian BBC menunjukkan bahawa sebahagian mekanisme pengesahan mungkin boleh dilangkau. Peristiwa ini mencerminkan bahawa apabila AI generatif memasuki skenario maklumat berkepercayaan tinggi seperti peta, menghalang penyebaran deepfake dan maklumat palsu telah menjadi cabaran keselamatan yang penting.Penulis artikel, sumber: AIBase
Google mengumumkan penangguhan fungsi penghasil imej AI terkini di Google Earth. Fungsi ini ditutup sementara kurang daripada 48 jam selepas pelancaran akibat risiko maklumat palsu, dengan pihak rasmi menyatakan bahawa mereka akan memperkuat langkah-langkah keselamatan lebih lanjut. Sebelum ini, Google mengintegrasikan model penghasil imej Nano Banana2 ke dalam Google Earth, membenarkan pengguna menghasilkan adegan fiksyen melalui arahan teks di atas imej satelit sebenar, gambar udara, dan peta tiga dimensi.
Berdasarkan ujian oleh BBC, fungsi ini mampu menghasilkan adegan palsu seperti "Menara Eiffel runtuh", "Lubang raksasa menelan Piramid Mesir", dan "Tank tentera Rusia muncul di Kyiv", serta boleh dimuat turun dan dikongsi secara langsung. Kandungan yang dihasilkan oleh AI ini, apabila digabungkan dengan koordinat geografi sebenar dan peta dasar Google Earth, mempunyai tingkat realisme yang tinggi dan mudah disangka sebagai imej satelit sebenar.
Ahli keselamatan menunjukkan bahawa peta sintetik yang sangat realistik semacam ini boleh digunakan untuk menyebarkan maklumat palsu, menyesatkan awam, media, bahkan penyiasat semasa peristiwa sensitif seperti peperangan atau bencana semula jadi, membawa cabaran baharu kepada pengesahan maklumat.
Google menyatakan bahawa semua gambar yang dihasilkan oleh AI dilengkapi dengan tanda air digital tak kasat mata dan menyokong pengesahan keaslian melalui Gemini atau Google Lens. Namun, ujian BBC mendapati bahawa beberapa mekanisme pengesahan masih boleh dilangkau, dan beberapa alat pengesahan pihak ketiga tidak mampu mengenal pasti kandungan yang dihasilkan oleh AI secara stabil.
Penangguhan perkhidmatan ini menunjukkan bahawa seiring dengan masuknya AI generatif ke dalam skenario maklumat berkepercayaan tinggi seperti peta dan penginderaan jauh, bagaimana meningkatkan kemampuan penciptaan sambil mencegah penyebaran deepfake dan maklumat palsu, menjadi isu keselamatan utama yang perlu diselesaikan semasa pelaksanaan produk AI.