Google Earthに登場したAI画像編集機能とその即時停止

Googleは、Google Earthにテキストプロンプトを用いて衛星画像をAI生成・編集できる機能を木曜日（現地時間）に公開した。しかし、その翌日には同機能を停止したと、The Vergeが報じている。この機能は「Nano Banana 2」と呼ばれるAIモデルをGoogle Earth上で動作させるもので、ユーザーが自然言語のテキストプロンプトを入力することで、実際の衛星画像に対してAI生成コンテンツを重ね合わせたり、改変したりすることができるものだった。

公開当初、Googleはこの機能について、生成された画像にはデジタル透かし（ウォーターマーク）が埋め込まれており、「有害なトピックに関する画像生成は防止している」と説明していた。デジタル透かしとは、画像データに人間の目には見えない形で埋め込まれる識別情報のことであり、生成AIコンテンツであることを示す手段として広く用いられている技術である。Googleはこの仕組みによって、悪用リスクをある程度コントロールできると判断していたと推測される。

研究者による「意図的な悪用実証」が問題を浮き彫りに

しかし、オープンソースインテリジェンス（OSINT）——公開情報を収集・分析する手法——の研究者として知られるDigital DiggingのHenk van Ess氏は、この機能の潜在的な危険性を示すため、意図的に問題のある画像を生成・公開した。具体的には、メキシコ国境付近に難民を追加した画像や、ガザの病院近くに爆撃跡を追加した画像などが生成されたとされる。これらはいずれも、実際の地理的・政治的に敏感な場所を対象とした、現実には存在しない情景を衛星画像風に描写したものであり、いわゆる「ディープフェイク」の地理空間版と評価できる内容だった。

van Ess氏による実証は、デジタル透かしや有害トピックのフィルタリングといったGoogleの当初の安全策が、実際の悪用シナリオに対して十分ではなかった可能性を示唆するものと思われる。地政学的に緊張した地域の衛星画像に偽の情報を付加することは、誤情報の拡散や、実際の人道的状況に関する認識の歪曲につながりうるリスクをはらんでいると考えられる。

公開翌日の停止が示すAI機能リリースの難しさ

Googleは翌日、新たな声明を発表し、同機能を停止したことを明らかにした。ソースが示す範囲では、停止の詳細な理由や今後の方針については明記されていないため、現時点では推測の域を出ない部分も多い。ただし、公開からわずか1日での停止という事実は、生成AI機能を実世界の地理情報と組み合わせる際の倫理的・社会的リスクが、事前の想定を上回る形で顕在化したことを示唆していると考えられる。

AI倫理の観点から見ると、本件は「レッドチーミング」——システムの脆弱性や悪用可能性を事前に探索するセキュリティ手法——の重要性を改めて示す事例として位置づけられるだろう。van Ess氏の行為は、外部の研究者・ジャーナリストが公開前に想定されなかったリスクを可視化するという、いわば非公式なレッドチームとして機能した側面があると思われる。

ただし、今回の問題はGoogleに固有のものではなく、生成AIを地理空間データや実世界の映像・画像と組み合わせるあらゆるサービスが直面しうる構造的な課題と評価できる。デジタル透かしや生成コンテンツの識別技術は現在も発展途上であり、それだけでは誤情報リスクを完全に抑制することは難しいという現実を、本件は端的に示しているだろう。

結論：「公開して問題を学ぶ」アプローチの限界

筆者が本件を通じて考えるのは、生成AI機能の社会実装における「公開速度」と「安全性検証の深度」のトレードオフについてである。Googleほどの技術・リソースを持つ企業であっても、実際のユーザーや研究者が試みる悪用シナリオのすべてを事前に網羅することは困難であると思われる。一方で、地政学的に敏感な地域の衛星画像を対象とした偽情報生成は、その影響が現実の人々の安全や認識に直結しうる点で、他のAI生成コンテンツとは異なる重みを持つと考えられる。今後、類似機能を開発・公開しようとする事業者にとって、本件は外部研究者との事前連携や、より厳格なユースケース審査の必要性を示す参照事例となるだろう。