PangramのCEOが警告：AIが生成したコンテンツがインターネットを「デッド・インターネット理論」の危険な領域へ追い込んでいる

Pangram LabsのCEOであるマックス・スペロ氏は、インターネットがデッド・インターネット理論の「危険なほど近い」地点にあると述べる。デッド・インターネット理論とは、自動化されたAI生成コンテンツが人間の手によるコンテンツを徹底的に駆逐し、真正なシグナルを見つけることがほぼ不可能になるシナリオだ。AIアートのクリエイターにとって、この診断は具体的かつ差し迫った重みを持つ。洪水を生み出したツールは、作品がどのように受け取られるかを形成しているツールと同一だからだ。

主なポイント

• Pangram LabsのCEO、マックス・スペロ氏は、求人応募・製品レビュー・保険請求に流入するAI生成のテキストや画像がインターネットを信頼の危機へと追い込んでいると公に警告した。
• デッド・インターネット理論は、自動化およびAI生成コンテンツがオンライン空間を最終的に支配し、真の人間が作成したコンテンツが検出不可能になるという考え方だ。
• スペロ氏によれば、AI検出は本物か偽物かという二項対立の問題ではない。確率的なシグナルと人間とAIのハイブリッドコンテンツが、明確な分類を信頼できないものにしている。
• プラットフォームや保険会社は現在、積極的に検出ツールを求めており、AI生成画像にフラグを立てる商業的インセンティブが生まれている。これはプロの文脈でAIアートがどう受け取られるかに影響しうる。
• AI生成コンテンツと人間が作成したコンテンツの間の信頼格差は、単なる社会的問題ではなく、プラットフォームの構造的問題になりつつある。

二項対立の検出がなぜ失敗するのか——そして画像クリエイターへの意味

スペロ氏の核心的な主張は、TechCrunchへの2度の出演を通じて展開されたもので、AI検出は単純な二項対立ではないというものだ。今日のコンテンツの大半は人間の意図と機械の実行のハイブリッドであり、それはまさにAIアートのクリエイターが働く方法でもある。人間が書いたプロンプトを反復的に洗練させ、拡散モデルでレンダリングした作品は、現在の分類器がうまく処理できないグレーゾーンに位置する。その曖昧さは検出問題のバグではなく、問題そのものだ。

実際的な結果として、検出パイプラインを構築するプラットフォームは誤検知を生み出すことになる。ストックライブラリに提出されたAI支援のイラスト、製品写真に合成された背景、ポートフォリオ内のAIアップスケール画像はいずれも、保険詐欺や偽レビュー向けに設計されたフラグを引き起こす可能性がある。AIによる画像生成をプロのツールとして使用するクリエイターは、これらのプラットフォームが設定するしきい値の下流に位置する。そして現在、そのしきい値はアーティストではなく悪意ある行為者を基準に調整されている。

クリエイティブプラットフォームにとってのデッド・インターネットの賭け金

デッド・インターネットという枠組みは、哲学を超えた意味を持つ。スペロ氏がインターネットはその状態に「危険なほど近い」と言うとき、彼はプラットフォームがコンテンツへの信頼を割り当てる方法における構造的な変化を描写している。そして信頼スコアは配信をますます左右するようになっている。ソーシャルフィードはすでに、低品質または合成と判定されたコンテンツを抑制している。その抑制ロジックがニュアンスなくAIアートにまで拡張されれば、オーガニックリーチに依存してオーディエンスを構築するクリエイターは、自分たちの作品の質とは無関係なアルゴリズム上の逆風に直面することになる。

これは仮定のシナリオではない。今年初めのInstagramによる未開示AIプロフィールのリーチ制限——Charmloopがプラットフォームの新しいAI生成プロフィールラベルについて報じた記事で取り上げた——は、主要プラットフォームがすでにAIコンテンツポリシーに配信ペナルティを組み込んでいることを示している。問題は、そのペナルティがどこで止まるかだ。

検出市場を形成する商業的インセンティブ

Pangramは中立的な観察者ではない。同社は検出サービスを販売しており、デッド・インターネットのナラティブが恐ろしいほど、営業上の説得力は増す。だからといってスペロ氏が間違っているわけではない——AI生成の保険請求や偽レビューは実在し、記録された問題だ——しかし、構築されている検出ツールは、ほとんどのAIアートを定義するニュアンスのある同意に基づく創造性のためではなく、最もリスクの高い詐欺のユースケースに最適化されていることを意味する。

2023年にStability AIが学習データの出所をめぐる初期の圧力に直面したとき、その反発はその後のすべての画像モデルがデータセットの出所を開示する方法を形成した。同様のダイナミクスが検出をめぐって形成されつつある。PangramのようなスタートアップとそのAPIに対価を払うエンタープライズクライアントによって今設定されている基準が、クリエイターが作品を配信するプラットフォーム全体で何が「真正な」コンテンツとみなされるかを決定することになる。

自分のツールや成果物がどのように分類されるかを理解したいクリエイターは、検出器が実際に何を探しているかを把握することから始められる——拡散アーティファクト、メタデータのパターン、生成画像における統計的規則性などだ。プロンプティングとモデル選択に関するCharmloopのガイドは、そうした技術的な基礎を築く一つの場所だ。

次の具体的な圧力点は規制だ。EUのAI法は2026年8月以降、特定の文脈でAI生成コンテンツの開示を義務付けており、プラットフォームに検出または開示を大規模に運用化する法的な期限を与えている。「AI生成」を二項対立として解釈するか、スペクトラムとして解釈するかによって、クリエイターが今日使用しているツールが明日の負債になるかどうかが決まる。