گوگل نے Google Earth کے AI تصویر تخلیق کی سہولت کو روک دیا، جسے صرف 48 گھنٹے سے زیادہ عرصہ تک چلایا گیا تھا کیونکہ جھوٹی معلومات کا خطرہ تھا۔ گوگل نے پہلے Google Earth میں AI تصویر تخلیقی ماڈل Nano Banana2 کو ایکٹ کیا تھا، جس سے صارفین متن کے حکمات کے ذریعے حقیقی سیٹلائٹ تصاویر پر جعلی مناظر تخلیق کر سکتے تھے۔ BBC کے ٹیسٹ میں پایا گیا کہ یہ سہولت "ایفیل ٹاور کا گرنا"، "پیرامڈز کا ایک گڑھے میں گھلنا"، اور "روسی ٹینکس کا کیف میں ظاہر ہونا" جیسے جعلی مناظر تخلیق کر سکتی ہے، جن کی حقیقی سیٹلائٹ تصاویر جیسی انتہائی اصلیت ہے اور انہیں حقیقی سمجھ لیا جا سکتا ہے۔ محفوظ ماہرین نے انتباہ دیا کہ جنگوں، قدرتی آفات اور دیگر حساس واقعات میں، جعلی نقشے جھوٹی معلومات پھیلانے اور عوام اور میڈیا کو بھول بھلائی دینے کے لیے استعمال ہو سکتے ہیں۔ گوگل نے کہا کہ تمام AI تصاویر میں ناپید ڈجیٹل واتر مارک شامل ہے اور ان کی تصدیق Gemini یا Google Lens کے ذریعے کی جا سکتی ہے، لیکن BBC کے ٹیسٹ میں پایا گیا کہ کچھ تصدیق کے طریقے دور کئے جا سکتے ہیں۔ اس واقعہ سے ظاہر ہوتا ہے کہ جب جنریٹو AI اعلٰی قابل اعتماد معلومات کے شعبوں جیسے نقشہ جات میں داخل ہوتا ہے، تو ڈیپ فکس اور جھوٹی معلومات کے پھیلاؤ کو روکنا ایک اہم تحفظ کا چیلنج بن چکا ہے۔مضمون کے مصنف، ذریعہ: AIBase
گوگل نے Google Earth میں نئی AI تصویر تخلیق کی سہولت کو روکنے کا اعلان کیا ہے۔ اس سہولت کو صرف 48 گھنٹے سے کم عرصے کے بعد ممکنہ جھوٹی معلومات کے خطرے کے باعث عارضی طور پر بند کر دیا گیا، جس کے دوران ادارہ نے مزید سیکیورٹی اقدامات کو مضبوط بنانے کا اعلان کیا۔ پہلے، گوگل نے Google Earth میں تصویر تخلیق کا ماڈل Nano Banana2 شامل کیا تھا، جس سے صارفین متن کے حکمات کے ذریعے حقیقی سیٹلائٹ تصاویر، ہوائی تصاویر اور تین ابعادی نقشہ جات پر جعلی مناظر تخلیق کر سکتے تھے۔
BBC کے ٹیسٹ کے مطابق، یہ فیچر "ایفل ٹاور کا گرنا"، "ویران گہرا گڑھا جو مصر کی پیرامڈز کو نگل جائے" اور "روسی ٹینکس کیفی میں ظاہر ہو جائیں" جیسے جھوٹے مناظر تخلیق کر سکتا ہے اور انہیں براہ راست ڈاؤن لوڈ اور شیئر کیا جا سکتا ہے۔ ایسے AI تخلیق شدہ مواد کو حقیقی جغرافیائی مختصات اور Google Earth کے بیس مپس کے ساتھ جوڑنے پر، وہ حقیقی سیٹلائٹ تصاویر لگنے کا انتہائی امکان رکھتے ہیں۔
سیکورٹی ماہرین کا کہنا ہے کہ جنگ، قدرتی آفات جیسے حساس واقعات میں، اس قسم کے انتہائی حقیقی مصنوعی نقشے غلط معلومات پھیلانے، عوام، میڈیا اور تحقیقاتی اداروں کو الجھانے اور معلومات کی تصدیق کے لیے نئے چیلنجز پیدا کرنے کے لیے استعمال ہو سکتے ہیں۔
گوگل کا کہنا ہے کہ تمام AI جنریٹ کردہ تصاویر میں انویزیبل ڈیجیٹل ویٹر مارک شامل ہے اور ان کی اصلیت کی تصدیق Gemini یا Google Lens کے ذریعے کی جا سکتی ہے۔ تاہم، BBC کے ٹیسٹ سے پتہ چلا کہ کچھ تصدیق مکینزمز کو ابھی بھی دور کیا جا سکتا ہے، اور کچھ تھرڈ پارٹی ڈیٹیکشن ٹولز AI جنریٹ کردہ مواد کو مستقل طور پر شناخت نہیں کر سکتے۔
اس عارضی خدمت کے روکنے کا اظہار یہ ہے کہ جب جنریٹو AI کو نقشہ بندی، دور سے نگرانی جیسے اعلیٰ قابل اعتماد معلومات کے ماحول میں شامل کیا جا رہا ہے، تو تخلیقی صلاحیت کو بڑھانے کے ساتھ ساتھ گہرے جھوٹے اور جعلی معلومات کے پھیلاؤ کو روکنا، AI پروڈکٹس کے عملی استعمال کے دوران ایک اہم سلامتی کا مسئلہ بن گیا ہے۔