出典
このニュースについて話す相手
コンパニオンを選んで、この話題についての感想を聞いてみましょう
AIツール・モデル
Instagramの認証バッジは、Mia Gothのディープフェイクが拡散するのを止められなかった
Theo Okafor· ワークフロー&ツール コラムニスト·
TheoはAIニュースを、今夜すぐ試せるテクニックに変えます。
TheoはAIニュースを、今夜すぐ試せるテクニックに変えます。
コンパニオンを選んで、この話題についての感想を聞いてみましょう
女優Mia GothのAI生成画像が、青い認証チェックマークを持つアカウント——偽物——からInstagram全体に拡散し、プラットフォームが削除する前に、彼女の代理人はこの事態を「理解不能」と表現した。
miagoth_という名前のInstagramアカウント——Gothの本物のアカウントではない——は青い認証バッジを持ち、挑発的なスローガンTシャツを着た女優のAI生成画像を投稿した。このタイミングは彼女の実際の離婚申請と重なっていた。
偽の認証済みInstagramアカウントmiagoth_から拡散したAI生成画像。Gothの実際の離婚ニュースのタイミングに合わせて投稿された。
ここでのメカニズムは正確に理解する価値がある。今月初め、Mia GothはShia LaBeoufとの離婚を申請した——実際に広く報道された出来事だ。そのアカウントmiagoth_は、太い黒文字で「MY EX IS MY BIGGEST FAN」と書かれたTシャツを着たGothのAI生成写真を投稿した。青いチェックマークが投稿に即座の信頼性を与えた。何気なくスクロールしていたユーザーや、一部のジャーナリストでさえ、それを本物として扱った。The Vergeによると、彼女の代理人はInstagramがそれを拡散させたことを踏まえ、状況を理解不能と表現した。
認証バッジが核心だ。Meta Verified——Instagramの有料認証ティア——は政府発行のIDを提出したサブスクライバーにチェックマークを付与するが、それは申請者本人に対して身元を確認するものであり、アカウントが表示する名前や肖像に対してではない。悪意ある行為者はサブスクリプションを支払い、自分自身として認証を受け、その後他人になりすましたアカウントを運営できる。ユーザーが「これは本当に彼女だ」と読み取るバッジは、実際にははるかに狭い意味しか持たない。
実在の人物のAI画像を生成する人——編集用イラスト、ファンアート、風刺的なコラージュ——にとって、この事件は技術的に可能なことと、法的・倫理的に正当化できることの間に明確な一線を引いている。Gothの画像は本物として流通するほど説得力があったと報告されている。そのレベルの写真リアリティは今や消費者向け画像生成ツールで達成可能であり、それがまさにコンテキストとラベリングを任意ではなく必須にする能力だ。
何らかの目的で実在の人物のリアルな画像を生成する場合、現在のプラットフォーム環境はほとんどセーフティネットを提供しない。Instagramにはアップロード時の強制的なAI開示要件がない。GoogleのSynthID検出器は特定の生成ツールからのAIウォーターマークを識別できるが、それは画像が作成時にウォーターマークされていた場合に限られる——そして多くのワークフローはデフォルトでそれを強制しない。GoogleのSynthID検出サイトに関する以前の報道では、複数のプロバイダーからのウォーターマークを読み取れるようになったと指摘したが、クリエイター側での採用は依然として任意かつ一貫性がない。
実際的な結論として：名前のある個人の写真リアルな画像を生成するワークフローを持つ場合——明らかに風刺的な目的であっても——それらの画像にキャプションとaltテキストで明示的にラベルを付けるべきだ。プラットフォームに任せるのではなく。それはプロンプトレベルおよびエクスポートレベルの習慣であり、プラットフォームの機能ではない。
Goth事件はInstagramが目に見える形で失敗したストレステストだ。説得力のあるAI画像、認証バッジ、タイムリーな現実世界のニュースフックの組み合わせは、稀なエッジケースではない——それは再現可能な公式だ。AI画像の品質が向上し続けるにつれ、生成された写真と本物の写真の視覚的な差は、ほとんどの視聴者にとってゼロに近づいていく。
これは正当なクリエイターにとっても重要だ。このような事件からの反発は、鈍いプラットフォームポリシーを生み出す傾向がある：AI生成の肖像に対するより広範な禁止、より厳格なアップロードフィルター、または意図に関わらずすべてのクリエイターに影響する強制的なウォーターマーク要件だ。AIの著作権とプライバシー規則に関する議会の継続的な膠着状態は、プラットフォームレベルの執行——いかに一貫性がなくとも——が当面の間、主要なチェック機能であり続けることを意味する。
AI画像生成を探求していて、現在のツールがリアリティとラベリングにおいてどこに立っているかを理解したい場合、Charmloopモデルカタログはどの生成ツールがデフォルトでウォーターマークを適用し、どれがそうでないかを文書化している——その区別は週を追うごとに学術的ではなくなっている。