Ipinahayag ng Google ang pagpapahinga sa paggawa ng mga imahe ng AI sa Google Earth, na sinira ang serbisyo sa loob ng higit sa 48 oras dahil sa panganib ng maling impormasyon. Bago ito, isinama ng Google ang AI image generation model na Nano Banana2 sa Google Earth, na nagbibigay-daan sa mga gumagamit na lumikha ng mga fiksyon na eksena sa pamamagitan ng mga teksto sa mga totoong satellite imagery. Ang pagsubok ng BBC ay nagpakita na ang serbisyo ay maaaring lumikha ng mga fiksyon na eksena tulad ng “pagkabagsak ng Eiffel Tower,” “pagkakalubog ng mga pyramida sa isang sinkhole,” at “mga Russian tank sa Kiev,” na may mataas na antas ng katotohanan at madaling maikakamali bilang totoong satellite imagery. Ang mga eksperto sa seguridad ay nagbabala na sa sensitibong pangyayari tulad ng digmaan at kalayaan, ang mga pinagsamang mapa ay maaaring gamitin upang ipalaganap ang maling impormasyon at maliitin ang publiko at media. Sinabi ng Google na ang lahat ng AI-generated na imahe ay may nakatago digital watermark at suportado ang pag-verify gamit ang Gemini o Google Lens, ngunit ang pagsubok ng BBC ay nagpakita na may posibilidad na maibawas ang ilang mekanismo ng pag-verify. Ang pangyayaring ito ay nagpapakita na habang pumasok ang generative AI sa mga mataas na tiwalaan na impormasyon tulad ng mga mapa, ang pagtutol sa deepfakes at pagpapalaganap ng maling impormasyon ay naging mahalagang hamon sa seguridad.May-akda ng artikulo, pinagkukunan: AIBase
Ipinahayag ng Google ang pagpapahinga sa bagong pinagana na AI image generation feature ng Google Earth. Ipinagpapahinga ang feature sa loob ng higit sa 48 oras dahil sa potensyal na panganib ng maling impormasyon, at sinabi ng opisyal na magkakaroon ng karagdagang pagpapalakas sa mga pagsisikap para sa seguridad. Bago ito, isinama ng Google ang image generation model na Nano Banana2 sa Google Earth, na nagbibigay-daan sa mga user na lumikha ng mga imahinasyong escena sa pamamagitan ng text prompts sa mga totoong satellite imagery, aerial photos, at 3D maps.
Ayon sa pagsubok ng BBC, ang tampok na ito ay makakagawa ng mga maliit na skena tulad ng “pagkabagsak ng Eiffel Tower,” “gigantikong bunganga na sumisipsip sa mga Pyramid ng Egypto,” at “mga tanke ng Russia na lumalabas sa Kiev,” at maaaring i-download at i-share nang direkta. Kapag pinagsasama ang mga nilalang na ito ng AI sa totoong heograpikong koordinado at base map ng Google Earth, may malakas na katotohanan ito at madaling maikakamali bilang totoong satellite image.
Pinapansin ng mga eksperto sa kaligtasan na sa mga sensitibong pangyayari tulad ng digmaan at natural na kalamidad, ang mga napakatotoo na sintetikong mapa ay maaaring gamitin upang ipalaganap ang maling impormasyon, maliitin ang publiko, media, at kahit mga imbestigador, at magdulot ng bagong hamon sa pag-verify ng impormasyon.
Sinabi ng Google na ang lahat ng mga imahe na ginawa ng AI ay may nakatagong digital watermark at suportado ang pag-verify ng katotohanan sa pamamagitan ng Gemini o Google Lens. Gayunpaman, ayon sa pagsubok ng BBC, mayroon pa ring posibilidad na maibawas ang ilang mekanismo ng pag-verify, at ang ilang mga tool para sa pag-detect mula sa mga third party ay hindi makapag-identify nang tumpak ng mga nilalaman na ginawa ng AI.
Ang pagpapahinga sa serbisyo na ito ay nagpapakita na habang ang generative AI ay patuloy na pumasok sa mga escenario ng high-trust information tulad ng mapa at remote sensing, ang pagpapabuti ng kakayahan sa paglikha habang pinipigilan ang deepfake at pagkalat ng maling impormasyon ay naging isang mahalagang isyu sa seguridad na kailangang lutasin sa proseso ng pagpapatupad ng AI.