Google thông báo tạm dừng tính năng sinh ảnh AI của Google Earth, tính năng này chỉ hoạt động chưa đầy 48 giờ đã bị tắt do rủi ro thông tin sai lệch. Trước đó, Google đã tích hợp mô hình sinh ảnh Nano Banana2 vào Google Earth, cho phép người dùng tạo ra các cảnh tượng giả tưởng lên hình ảnh vệ tinh thực tế thông qua lệnh văn bản. BBC kiểm tra phát hiện tính năng này có thể tạo ra các cảnh giả như “Tháp Eiffel sụp đổ”, “Kim tự tháp bị mảng đất sụp lún”, “xe tăng Nga xuất hiện tại Kiev” với độ chân thực cao, dễ bị nhầm lẫn là hình ảnh vệ tinh thật. Các chuyên gia an ninh cảnh báo rằng trong các sự kiện nhạy cảm như chiến tranh hoặc thiên tai, bản đồ tổng hợp có thể bị lợi dụng để lan truyền thông tin sai lệch, gây hiểu lầm cho công chúng và truyền thông. Google cho biết tất cả hình ảnh AI đều được nhúng mã nước dấu kỹ thuật số vô hình và hỗ trợ xác minh qua Gemini hoặc Google Lens, nhưng kiểm tra của BBC cho thấy một số cơ chế xác minh có thể bị vượt qua. Sự kiện này cho thấy khi AI tạo sinh bước vào các bối cảnh thông tin yêu cầu độ tin cậy cao như bản đồ, việc ngăn chặn deepfake và lan truyền thông tin giả đã trở thành thách thức an ninh quan trọng.Tác giả bài viết, nguồn: AIBase
Google thông báo tạm dừng tính năng tạo hình ảnh AI mới được ra mắt trên Google Earth. Tính năng này đã bị tạm ngưng sau chưa đầy 48 giờ do nguy cơ tiềm ẩn về thông tin sai lệch, và công ty cho biết sẽ tăng cường các biện pháp bảo mật thêm nữa. Trước đó, Google đã tích hợp mô hình tạo hình ảnh Nano Banana2 vào Google Earth, cho phép người dùng tạo ra các cảnh giả tưởng trên hình ảnh vệ tinh thực tế, ảnh hàng không và bản đồ 3D thông qua các lệnh văn bản.
Theo bài kiểm tra của BBC, tính năng này có thể tạo ra các cảnh giả bao gồm “Tháp Eiffel sụp đổ”, “hố sụt khổng lồ nuốt chửng các kim tự tháp Ai Cập” và “xe tăng Nga xuất hiện tại Kiev”, đồng thời cho phép tải xuống và chia sẻ trực tiếp. Khi kết hợp với tọa độ địa lý thực và hình nền Google Earth, các nội dung do AI tạo ra này có độ chân thực cao và dễ bị nhầm lẫn là hình ảnh vệ tinh thật.
Các chuyên gia an ninh chỉ ra rằng, trong các sự kiện nhạy cảm như chiến tranh, thiên tai, những bản đồ tổng hợp cực kỳ chân thực này có thể bị sử dụng để lan truyền thông tin sai lệch, gây hiểu lầm cho công chúng, truyền thông và thậm chí cả các nhà điều tra, mang lại những thách thức mới cho việc xác minh thông tin.
Google cho biết tất cả hình ảnh được tạo bởi AI đều được nhúng mã nước dấu kỹ thuật số vô hình và hỗ trợ xác minh tính xác thực thông qua Gemini hoặc Google Lens. Tuy nhiên, các bài kiểm tra của BBC phát hiện một số cơ chế xác minh vẫn có thể bị vượt qua, và một số công cụ phát hiện bên thứ ba không thể nhận diện ổn định nội dung do AI tạo ra.
Việc tạm dừng dịch vụ này cho thấy rằng, khi AI tạo sinh dần được áp dụng vào các bối cảnh thông tin yêu cầu độ tin cậy cao như bản đồ và cảm biến từ xa, việc làm thế nào để nâng cao khả năng sáng tạo đồng thời ngăn chặn việc tạo ra nội dung giả mạo và lan truyền thông tin sai lệch đang trở thành một vấn đề an ninh cần được giải quyết trọng tâm trong quá trình triển khai sản phẩm AI.