गूगल, गूगल अर्थ में एआई इमेज जनरेशन को गलत जानकारी के जोखिम के कारण रोक देता है

गूगल ने Google Earth के AI छवि उत्पादन सुविधा को निलंबित कर दिया है, जिसे लॉन्च होने के 48 घंटे से कम समय में झूठी जानकारी के खतरे के कारण बंद कर दिया गया। गूगल ने पहले Google Earth में Nano Banana2 छवि उत्पादन मॉडल को एकीकृत किया था, जिससे उपयोगकर्ता वास्तविक उपग्रह छवियों पर पाठ निर्देशों के माध्यम से काल्पनिक परिदृश्य बना सकते थे। BBC के परीक्षण में पाया गया कि यह सुविधा “आयफेल मीनार का ढहना”, “पिरामिड का एक गहरे गड्ढे में निगल जाना”, “कीव में रूसी टैंक” जैसे झूठे परिदृश्यों को उत्पन्न कर सकती है, जो बहुत वास्तविक प्रतीत होते हैं और वास्तविक उपग्रह छवियों के रूप में भ्रमित किए जा सकते हैं। सुरक्षा विशेषज्ञों ने चेतावनी दी कि युद्ध, प्राकृतिक आपदाओं आदि संवेदनशील घटनाओं में, संश्लेषित मानचित्रों का उपयोग झूठी जानकारी प्रसारित करने, सार्वजनिक और मीडिया को भ्रमित करने के लिए किया जा सकता है। गूगल ने कहा कि सभी AI छवियों में अदृश्य डिजिटल जलचिह्न समाहित हैं और Gemini या Google Lens के माध्यम से सत्यापन समर्थित है, लेकिन BBC के परीक्षण में पाया गया कि कुछ सत्यापन तंत्रों को पार किया जा सकता है। यह घटना प्रदर्शित करती है कि जब प्रतिरूपण AI, मानचित्रण जैसे उच्च-विश्वसनीय सूचना परिदृश्यों में प्रवेश करता है, तो गहरे-झूठ (deepfakes) और झूठी सूचना प्रसार को रोकना महत्वपूर्ण सुरक्षा चुनौती बन गया है।

लेखक, स्रोत: AIBase

गूगल ने Google Earth में नवीनतम AI छवि उत्पादन सुविधा को निलंबित कर दिया है। इस सुविधा को लॉन्च करने के 48 घंटे से कम समय में, संभावित गलत जानकारी के जोखिम के कारण इसे अस्थायी रूप से बंद कर दिया गया, और आधिकारिक तौर पर कहा गया कि सुरक्षा उपायों को और मजबूत किया जाएगा। पहले, गूगल ने Google Earth में Nano Banana2 छवि उत्पादन मॉडल को एकीकृत किया था, जिससे उपयोगकर्ता वास्तविक उपग्रह छवियों, हवाई फोटोग्राफी और 3D मानचित्रों पर पाठ निर्देशों के माध्यम से काल्पनिक परिदृश्य बना सकते थे।

बीबीसी के परीक्षण के अनुसार, यह फ़ंक्शन "एफ़िल टावर का गिरना", "विशालकाय गड्ढा मिस्र के पिरामिड को निगल जाना" और "रूसी टैंक कीव में दिखाई देना" जैसे झूठे परिदृश्य बना सकता है और इन्हें सीधे डाउनलोड और साझा किया जा सकता है। इस प्रकार के AI-उत्पन्न सामग्री को वास्तविक भौगोलिक निर्देशांक और Google Earth के बेसमैप के साथ मिलाने पर, इसकी वास्तविकता बहुत अधिक हो जाती है और इसे वास्तविक उपग्रह छवियों के रूप में गलती से माना जा सकता है।

सुरक्षा विशेषज्ञों का कहना है कि युद्ध, प्राकृतिक आपदाओं जैसी संवेदनशील घटनाओं में, इस तरह के अत्यधिक वास्तविक संश्लेषित मानचित्रों का उपयोग झूठी जानकारी प्रसारित करने, जनता, मीडिया और यहां तक कि जांचकर्ताओं को भ्रमित करने के लिए किया जा सकता है, जिससे सूचना की पुष्टि के लिए नए चुनौतियां उत्पन्न होती हैं।

गूगल ने बताया कि सभी AI द्वारा उत्पादित छवियों में अदृश्य डिजिटल वॉटरमार्क एम्बेड किए गए हैं और इनकी प्रामाणिकता की पुष्टि Gemini या Google Lens के माध्यम से की जा सकती है। हालाँकि, BBC के परीक्षण में पाया गया कि कुछ प्रमाणीकरण तंत्र अभी भी बाईपास किए जा सकते हैं, और कुछ तीसरे पक्ष के पता लगाने वाले उपकरण AI द्वारा उत्पादित सामग्री को स्थिर रूप से पहचान नहीं पा रहे हैं।

इस सेवा निलंबन से पता चलता है कि जब जनरेटिव AI मैपिंग, रिमोट सेंसिंग आदि उच्च विश्वसनीयता वाले सूचना स्थितियों में प्रवेश कर रहा है, तो सृजनात्मक क्षमता में वृद्धि के साथ-साथ डीपफेक और झूठी जानकारी के प्रसार को रोकना, AI उत्पादों के लागू होने की प्रक्रिया में एक महत्वपूर्ण सुरक्षा समस्या बन गया है।