Google оголосила про призупинення функції генерації зображень за допомогою ШІ в Google Earth — ця функція була вимкнена менш ніж через 48 годин після запуску через ризик поширення хибної інформації. Раніше Google інтегрувала модель генерації зображень Nano Banana2 до Google Earth, дозволяючи користувачам створювати вигадані сцени за текстовими командами на реальних супутникових знімках. Тестування BBC показало, що функція може генерувати хибні сцени, такі як «зруйнування Ейфелевої вежі», «піраміди, поглинуті провалами» та «російські танки в Києві», які мають високий рівень реалізму і можуть бути сприйняті як справжні супутникові знімки. Експерти з безпеки попереджали, що у контексті війни, природних катастроф та інших чутливих подій синтетичні карти можуть використовуватися для поширення хибної інформації та введення в оману громадськості та ЗМІ. Google зазначила, що всі зображення, згенеровані ШІ, містять невидимий цифровий водяний знак і підтримують перевірку за допомогою Gemini або Google Lens, але тестування BBC показало, що деякі механізми перевірки можуть бути обійдені. Цей інцидент свідчить про те, що при входженні генеративного ШІ в сферу високодовірчої інформації, такої як карти, запобігання глибоким підмінам та поширенню хибної інформації стає важливою безпековою викликом.Автор статті, джерело: AIBase
Google оголосила про призупинення нової функції генерації зображень за допомогою ШІ в Google Earth. Функцію було тимчасово вимкнено менш ніж через 48 годин після запуску через ризик поширення хибної інформації, а офіційні особи заявили, що подальше підсилюватимуть заходи безпеки. Раніше Google інтегрувала модель генерації зображень Nano Banana2 до Google Earth, дозволяючи користувачам за допомогою текстових команд створювати вигадані сцени на реальних супутникових знімках, авіафотографіях та 3D-картах.
За тестами BBC ця функція може генерувати хибні сцени, такі як «зруйнування Ейфелевої вежі», «величезна воронка, що поглинає єгипетські піраміди» та «російські танки в Києві», і дозволяє безпосередньо завантажувати та поширювати їх. Такий контент, створений за допомогою ШІ, у поєднанні з реальними географічними координатами та фоновими картами Google Earth, має високий ступінь правдоподібності і легко може бути сприйнятий як справжній супутниковий знімок.
Експерти з безпеки зазначають, що під час війни, природних катастроф та інших чутливих подій такі надзвичайно реалістичні синтетичні карти можуть використовуватися для поширення хибної інформації, введення в оману громадськості, ЗМІ та навіть слідчих, що створює нові виклики для перевірки інформації.
Google заявила, що всі зображення, згенеровані ШІ, містять невидимі цифрові водяні знаки і підтримують перевірку справжності за допомогою Gemini або Google Lens. Однак тестування BBC показало, що деякі механізми перевірки все ще можна обійти, а деякі сторонні інструменти детекції не можуть стабільно виявляти зміст, згенерований ШІ.
Ця призупинка послуг свідчить про те, що з поступовим входженням генеративного ШІ в сценарії високої надійності, такі як карти та дистанційне зондування, питання забезпечення безпеки — як підвищити здатність до створення контенту, водночас запобігаючи поширенню глибоких підмін і хибної інформації — стає ключовою проблемою, яку потрібно вирішити під час реалізації ШІ-продуктів.