グーグルは、AI画像生成機能を48時間未満で停止すると発表した。この機能は、偽情報のリスクを理由に閉鎖された。グーグルは以前、Google EarthにAI画像生成モデル「Nano Banana2」を統合し、ユーザーがテキスト指示により実際の衛星画像上に虚構のシーンを生成できるようにしていた。BBCのテストでは、「エッフェル塔の崩壊」「ピラミッドが地殻変動に飲み込まれる」「ロシア軍の戦車がキエフに登場する」などの偽りのシーンが生成され、その現実性が高く、実際の衛星画像と誤認される可能性があった。セキュリティ専門家は、戦争や自然災害などの敏感な出来事において、合成マップが偽情報を拡散し、一般市民やメディアを誤導する可能性があると警告している。グーグルは、すべてのAI画像に不可視のデジタルウォーターマークを埋め込み、GeminiやGoogle Lensによる検証を可能にしていると述べているが、BBCのテストでは一部の検証メカニズムが回避される可能性があることが示された。この出来事は、生成AIが地図などの高信頼性情報分野に導入される際、ディープフェイクや偽情報の拡散を防ぐことが重要なセキュリティ課題であることを浮き彫りにしている。文章作成者、出典：AIBase
グーグルは、Google Earthに新しく導入されたAI画像生成機能の提供を一時停止すると発表しました。この機能は、潜在的な偽情報のリスクを理由に、導入から48時間以内に一時的に無効化され、公式には今後のセキュリティ対策を強化すると述べています。以前、グーグルは画像生成モデル「Nano Banana2」をGoogle Earthに統合し、ユーザーがテキストの指示により、実際の衛星画像、航空写真、3Dマップ上に仮想のシーンを生成できるようにしていました。
BBCのテストによると、この機能は「エッフェル塔の崩壊」、「巨大な天井がエジプトのピラミッドを飲み込む」、「ロシア軍の戦車がキエフに現れる」などの偽のシナリオを生成し、直接ダウンロードして共有することが可能である。このようなAI生成コンテンツは、実際の地理座標とGoogle Earthの背景マップと組み合わされると、非常にリアルに見え、真の衛星画像と誤認されやすい。
セキュリティ専門家は、戦争や自然災害などのセンシティブなイベントにおいて、このような高度にリアルな合成マップが偽情報の拡散に使用され、一般市民、メディア、さらには調査員を誤導し、情報の検証に新たな課題をもたらす可能性があると指摘しています。
グーグルは、すべてのAI生成画像に不可視のデジタルウォーターマークが埋め込まれており、GeminiまたはGoogle Lensを通じて真偽を検証できると述べています。しかし、BBCのテストでは、一部の検証メカニズムが回避される可能性があり、一部のサードパーティ検出ツールではAI生成コンテンツを安定して識別できないことが判明しました。
今回のサービス一時停止は、生成AIが地図やリモートセンシングなどの高信頼性情報シーンに徐々に導入される中で、創造性を高めると同時にディープフェイクや偽情報の拡散を防ぐことが、AI製品の実装において重点的に解決すべきセキュリティ課題となっていることを示しています。