Googleが7月30日、Google EarthにAI画像生成機能を追加しましたが、誤情報拡散への懸念から翌日撤回しました。画像生成AI「Nano Banana 2」を使い、実在の衛星写真の上に架空の画像を合成できる仕組みでしたが、ポリシー違反とみられる合成画像のスクリーンショットが広まったことが問題視されました。ジャーナリストや研究者が証拠として頼る地図サービスだけに、AIによる偽情報混入リスクの大きさを改めて示す事例となりました。
背景と文脈
Google Earthは、報道や研究の現場で「現実を裏付ける視覚的証拠」として使われてきたサービスです。紛争地域の被害状況や環境破壊の確認など、第三者が事実を検証する際の基準点としての役割を担ってきました。生成AIが写真や動画を簡単に作れる時代になり、こうした一次情報源の信頼性をどう守るかが業界共通の課題になっています。
近年は報道写真やSNS投稿画像の真贋を見分けるファクトチェック専門の組織も増えており、地図サービスはその中でも「改ざんされていない」ことが前提視されてきた数少ない情報源でした。その前提が揺らぐこと自体が、今回の出来事を単なる一機能の不具合以上に重く受け止めさせる理由です。
これまでも偽の衛星写真や加工されたニュース映像が事件を誤って伝える例は繰り返されてきました。多くの場合、画像編集ソフトを使いこなせる一部の人だけが手を出せる作業でしたが、生成AIの登場でその敷居は大きく下がっています。誰でも自然文の指示だけで、専門知識なしに本物そっくりの画像を作れる時代になったことが、今回のような機能を特に危ういものにしています。
Googleはこれまでも画像生成AI「Nano Banana」シリーズを写真編集やクリエイティブ用途に展開してきました。今回投入されたのは、プロンプト（AIへの指示文）を入力するだけで、任意の画像を衛星写真上に重ねられる新機能でした。地図という「事実の器」に生成物を混ぜる試みだった点で、通常の画像編集ツールとは性質が異なります。
技術/ビジネス面
新機能は木曜日に公開されましたが、公開直後からSNS上でポリシー違反とみられる合成画像のスクリーンショットが拡散しました。実在の地名や建物の周辺に、事実と異なる建造物や出来事を合成した画像も見つかったといいます。TechCrunchの報道によると、Googleは「生成された画像のスクリーンショットが、当社のポリシーに違反しているとみられる形で共有されている」と説明し、翌日には機能をロールバックすると発表しました。より強固なガードレール（AIの出力を制限する仕組み）を実装するまで、いったん提供を止める判断です。
わずか1日での機能停止は、公開前のテストだけでは悪用パターンを網羅しきれなかったことを物語っています。プロンプト単位での事前フィルタリングだけでなく、公開後にユーザーの投稿を継続的に監視し、問題が見つかれば即座に機能を止める運用体制があったからこそ、被害の拡大前に対応できたとも言えます。
これからどうなるか
今回の一件は、生成AIの創造的な用途と悪用リスクが表裏一体であることを浮き彫りにしました。Google Earthのように「本物であること」自体が価値のサービスに生成機能を組み込む場合、通常のクリエイティブツール以上に慎重な設計が求められます。わずか1日での撤回という速さは、社内のリスク検知と意思決定の仕組みが機能した結果とも言えますが、事前のリスク評価が十分だったかは今後も議論を呼びそうです。
開発者の視点では、生成AIを自社サービスに組み込む際の教訓が多い事例です。特に地図や医療画像、公的記録のように「事実性」が価値の源泉となるデータに生成機能を足す場合、通常のコンテンツモデレーションに加えて、出力に透かしや来歴情報（C2PAなどの規格でコンテンツの生成経緯を記録する仕組み）を埋め込む設計が今後さらに重視されるとみられます。自社プロダクトでGemini APIなどの画像生成機能を使う際も、公開範囲や検証手段を先に決めておく価値は大きいでしょう。
小規模なチームであっても、生成AI機能を一般公開する前に「最も悪意ある使い方をされたらどうなるか」を洗い出すレッドチーム的な検証は欠かせません。Googleほどの審査体制を持つ企業でも1日で撤回に至った事実は、悪用シナリオの想定がいかに難しいかを示しています。
まとめ
Googleは信頼性が重視されるGoogle EarthにAI画像生成機能を追加しましたが、誤情報拡散への懸念から公開翌日に撤回しました。事実性が価値の核であるサービスへ生成AIを組み込む難しさと、ガードレール設計の重要性を示す出来事です。
参考リンク
アイキャッチ画像: Photo by Sam te Kiefte on Unsplash
