Google объявила о приостановке функции генерации изображений с помощью ИИ в Google Earth, которая была отключена менее чем через 48 часов после запуска из-за риска распространения ложной информации. Ранее Google интегрировала модель генерации изображений Nano Banana2 в Google Earth, позволив пользователям создавать вымышленные сцены на основе реальных спутниковых снимков с помощью текстовых команд. Тестирование BBC показало, что функция способна генерировать ложные сцены, такие как «падение Эйфелевой башни», «пирамиды, поглощенные провалами» и «российские танки в Киеве», причем эти изображения обладают высокой степенью реалистичности и могут быть ошибочно приняты за настоящие спутниковые снимки. Эксперты по безопасности предупредили, что синтетические карты могут использоваться для распространения ложной информации и введения в заблуждение общественности и СМИ в ходе военных конфликтов или стихийных бедствий. Google заявила, что все изображения, созданные ИИ, содержат невидимые цифровые водяные знаки и поддерживают проверку с помощью Gemini или Google Lens, однако тестирование BBC показало, что некоторые механизмы проверки могут быть обойдены. Этот инцидент демонстрирует, что при внедрении генеративного ИИ в высокодоверительные информационные среды, такие как картография, предотвращение глубоких подделок и распространения ложной информации стало важной задачей безопасности.Автор статьи, источник: AIBase
Google объявила о приостановке новой функции генерации изображений с использованием ИИ в Google Earth. Функция была временно отключена менее чем через 48 часов после запуска из-за риска распространения ложной информации; компания заявила, что将进一步 усилит меры безопасности. Ранее Google интегрировала модель генерации изображений Nano Banana2 в Google Earth, позволив пользователям создавать вымышленные сцены на основе реальных спутниковых снимков, аэрофотоснимков и трехмерных карт с помощью текстовых команд.
Согласно тестам BBC, эта функция может генерировать ложные сценарии, такие как «падение Эйфелевой башни», «огромная воронка поглощает египетские пирамиды» и «российские танки появляются в Киеве», а также позволяет напрямую загружать и делиться ими. После объединения такого сгенерированного ИИ контента с реальными географическими координатами и базовыми картами Google Earth он приобретает высокую степень правдоподобия и легко может быть воспринят как реальные спутниковые снимки.
Эксперты по безопасности отмечают, что в условиях войны, стихийных бедствий и других чувствительных событий такие высокодетализированные синтетические карты могут использоваться для распространения ложной информации, введения в заблуждение общественности, СМИ и даже следователей, создавая новые вызовы для проверки информации.
Google заявляет, что все изображения, сгенерированные ИИ, содержат невидимые цифровые водяные знаки и поддерживают проверку подлинности через Gemini или Google Lens. Однако тесты BBC показали, что некоторые механизмы проверки все еще могут быть обойдены, а некоторые сторонние инструменты обнаружения не могут стабильно распознавать контент, созданный ИИ.
Эта приостановка обслуживания показывает, что по мере того, как генеративный ИИ постепенно внедряется в сценарии с высокой степенью доверия, такие как картография и дистанционное зондирование, вопрос о том, как повысить творческие возможности, одновременно предотвращая распространение глубоких подделок и ложной информации, становится ключевой проблемой безопасности, которую необходимо решить при внедрении продуктов ИИ.