أعلنت جوجل تعليق ميزة توليد الصور بالذكاء الاصطناعي في Google Earth، حيث تم إيقاف الميزة بعد أقل من 48 ساعة على إطلاقها بسبب مخاطر نشر معلومات كاذبة. وكانت جوجل قد دمجت نموذج توليد الصور Nano Banana2 في Google Earth، مما سمح للمستخدمين بإنشاء مشاهد افتراضية على صور الأقمار الصناعية الحقيقية من خلال أوامر نصية. وجدت BBC أن الميزة يمكنها توليد مشاهد كاذبة واقعية مثل "سقوط برج إيفل" و"ابتلاع الأهرامات بواسطة حفرة أرضية" و"ظهور دبابات روسية في كييف"، مما يجعل من الصعب التمييز بينها وبين الصور الحقيقية. حذرت خبراء الأمن من أن الخرائط المُولَّدة بالذكاء الاصطناعي قد تُستخدم لنشر معلومات كاذبة وتضليل الجمهور والإعلام خلال أحداث حساسة مثل الحروب أو الكوارث الطبيعية. وأفادت جوجل أن جميع الصور المُولَّدة بالذكاء الاصطناعي تحتوي على علامات مائية رقمية خفية وتدعم التحقق عبر Gemini أو Google Lens، لكن اختبارات BBC أظهرت إمكانية تجاوز بعض آليات التحقق. يعكس هذا الحدث أن دخول الذكاء الاصطناعي التوليدي إلى سياقات ذات مصداقية عالية مثل الخرائط يمثل تحديًا أمنيًا مهمًا في مواجهة التزييف العميق ونشر المعلومات الكاذبة.مؤلف المقال، المصدر: AIBase
أعلنت جوجل تعليق ميزة توليد الصور بالذكاء الاصطناعي التي تم إصدارها حديثًا في Google Earth. تم إيقاف الميزة مؤقتًا بعد أقل من 48 ساعة من إطلاقها بسبب مخاطر محتملة مرتبطة بالمعلومات المضللة، وأفادت الشركة أنها ستُعزز إجراءات الأمان بشكل إضافي. سابقًا، دمجت جوجل نموذج توليد الصور Nano Banana2 في Google Earth، مما سمح للمستخدمين بإنشاء مشاهد افتراضية عبر تعليمات نصية على صور الأقمار الصناعية الحقيقية وصور الطيران والخرائط ثلاثية الأبعاد.
وفقًا لاختبارات BBC، يمكن لهذه الميزة توليد مشاهد كاذبة تشمل "انهيار برج إيفل" و"حفرة ضخمة تبتلع الأهرامات المصرية" و"ظهور دبابات روسية في كييف"، ويمكن تنزيلها ومشاركتها مباشرة. بعد دمج هذه المحتويات المولدة بالذكاء الاصطناعي مع إحداثيات جغرافية حقيقية وخرائط خلفية من Google Earth، تكتسب مصداقية عالية، مما يجعل من السهل اعتبارها صورًا ساتلية حقيقية.
أشار خبراء الأمن إلى أن هذه الخرائط المُولَّدة بدرجة عالية من الواقعية يمكن استخدامها في أحداث حساسة مثل الحروب أو الكوارث الطبيعية لنشر معلومات مضللة، وخداع الجمهور والإعلام وحتى المحققين، مما يفرض تحديات جديدة على التحقق من المعلومات.
أشارت جوجل إلى أن جميع الصور المولدة بالذكاء الاصطناعي مزودة بعلامة مائية رقمية خفية، وتدعم التحقق من الأصالة من خلال Gemini أو Google Lens. ومع ذلك، أظهرت اختبارات BBC أن بعض آليات التحقق لا تزال عرضة للتجاوز، وبعض أدوات الكشف من طرف ثالث لا تستطيع التعرف باستقرار على المحتوى المولّد بالذكاء الاصطناعي.
يعكس هذا التوقف المؤقت للخدمة أن كيفية تعزيز القدرة الإبداعية مع منع التزييف العميق ونشر المعلومات الكاذبة أصبحت مشكلة أمنية رئيسية يجب حلها أثناء تنفيذ منتجات الذكاء الاصطناعي، مع دخول الذكاء الاصطناعي التوليدي تدريجيًا إلى سيناريوهات معلومات عالية الموثوقية مثل الخرائط والاستشعار عن بعد.