AIツール・モデル
GoogleはAI衛星画像編集ツールをディープフェイク懸念からわずか1日で公開停止
Charmloop 編集チーム· 編集部·
Googleは、Google Earth内のAI画像生成機能を公開したわずか1日後に撤回した。研究者が地政学的に敏感なシーンを描いた説得力のある偽の衛星画像を生成できることを実証したためだ。
この機能は、The Vergeが報じたように木曜日の公開直後に停止されたが、ユーザーがテキストプロンプトを入力してGoogle Earth内の本物の衛星・航空ビューを改変できるものだった。その結果生成された画像は、一見すると本物の地理空間データのように見えた。実際の地図画像に直接重ねて表示されていたからだ。
この違いは非常に重要だ。単独のAI生成風景画像は、知識のある視聴者の多くには合成物として認識できる。しかし同じ生成コンテンツが現実世界の座標に合成され、衛星写真の視覚的言語で描画されると、それは全く異なる種類の成果物となる。暗黙の地理的主張を帯びるのだ。
GoogleのAI Earth機能は、停止される前まで、テキストプロンプトを使ってAI生成画像を実際の衛星マップに重ね合わせることをユーザーに許可していた。
van Essのデモは、そのリスクを素早く具体化した。米墨国境付近に難民が集結している、あるいは紛争地帯の病院近くが被害を受けているとされる画像は、地政学的な偽情報キャンペーンで拡散されるまさにそのような種類のコンテンツだ。信頼性の高いGoogle製品がその出所であれば、見かけ上の正当性はさらに増幅されていただろう。
Googleが24時間以内に機能を撤回した決断は注目に値する。同社は当初、初期の批判に対応していたが、最終的にはツールを完全に削除した。TechCrunchによると、この「擁護してから撤回する」という流れは、van Essの事例が公開で拡散されると内部の判断が素早く変わったことを示唆している。
AIアート制作者にとって、この一件はコンテキストがいかにリスクを変容させるかを示す有益なケーススタディだ。ポートレートジェネレーターやスタイルツールを支えるのと同じ拡散型画像生成も、その出力が現実世界の地理に紐付けられ、信頼性の高い地図アプリケーション内で提示されると、本質的に異なる製品となる。害は生成そのものにあるのではなく、フレーミングにある。
これはまた、AIイメージツールがテキストツールよりも多くの事前の害モデリングを必要とすることをプラットフォームが発見するという、より広いパターンとも繋がっている。AI生成画像と検出に関する懸念は、すでにプラットフォームがこれらの機能を展開する方法を形成しつつある。今年初め、Pangramは合成コンテンツにフラグを立てることを目的とした専用のAI画像検出モデルをリリースし、GoogleのSynthIDウォーターマークの独立したテストでは、技術的な堅牢性だけではAI生成の偽情報を止められない可能性があることが明らかになった。
衛星画像を参照として使用するクリエイター、つまり現実世界の環境を構築するコンセプトアーティスト、地形テクスチャを調達するゲームデザイナー、あるいは地図のスクリーンショットを構図のガイドとして使用する人々は、この機能が現在利用できないことに注意すべきだ。Googleはガードレールを設けた改訂版を計画しているかどうかを明らかにしていない。
より広く見れば、この一件は、地理的または記録的な権威を持つプラットフォームに組み込まれたAIイメージツールが、スタンドアロンのジェネレーターよりもはるかに高いハードルに直面することを改めて示している。アートツールでは取るに足らない機能も、ホストプラットフォームが現実世界に関する事実的な視覚データの信頼できる情報源として信頼されている場合には、リスク要因となる。
AI生成の環境や風景を中心にワークフローを構築するクリエイターにとって、現実的な前進の道は、出力の合成的な性質が明確な専用の画像生成ツールを使用することだ。Googleが元の形式で再リリースしないかもしれない製品を待つよりも。
