裁判所文書が暴露：OpenAIとMicrosoftはAIスクレイピングがウェブに「破滅のループ」をもたらすと知っていた

ニューヨーク・タイムズ対OpenAI訴訟で新たに封印解除された裁判所申立書により、OpenAIとMicrosoftの両社が自社の内部記録において、AIの学習慣行がオープンウェブを劣化させる「破滅のループ」を引き起こすリスクを私的に文書化していたこと、そして少なくとも一人のMicrosoftの幹部がそのスクレイピングを「人類史上最大の労働搾取」と表現していたことが明らかになった。

主なポイント

• NYT対OpenAIの封印解除文書により、MicrosoftとOpenAIがAIスクレイピングによってモデルを支えるウェブエコシステムを破壊する「破滅のループ」が引き起こされると内部で警告していたことが示された。
• Microsoftの応用科学担当ディレクターは、データ取得を「前例のない規模の驚異的な窃盗」――おそらく「人類史上最大の労働搾取」――と表現した。
• Microsoft CEOのSatya Nadellaは宣誓証言の中で、チャットボットがソースウェブサイトへの訪問に取って代わり、出版社が依存するトラフィックを断ち切ることを認めた。
• OpenAIは2021年の時点で、自社のAPIが「既存のコンテンツをそのまま出力する可能性がある」と認識しており、フェアユース準拠のためにメモリゼーション防止が重要であると指摘していた。
• 現在裁判記録の一部となったこれらの自認は、タイムズ側の主張を大幅に強化し、今後AI企業が学習データをライセンス取得する方法を形作る可能性がある。

内部文書が実際に述べていたこと

「破滅のループ」というフレーズは、タイムズの訴状ではなく、両社自身の文書に登場する。その論理は単純かつ自己告発的だ。AIシステムはコンテンツを学習するためにウェブをスクレイピングし、ユーザーをソースサイトに誘導するのではなく直接回答を返す。これにより出版社はトラフィックと広告収入を失い、新たなコンテンツを制作できなくなり、同じAIシステムが次世代の学習に必要とするウェブが劣化していく。このループはモデルの世代を重ねるごとに締まっていく。

Satya Nadellaの証言は特に鋭い。The Vergeによると、Nadellaはチャットボットとのやり取りが元のウェブサイトへの訪問に「取って代わった」と宣誓の下で認めた――これはタイムズの損害理論を直接裏付ける譲歩だ。これは原告の準備書面による主張ではなく、被告のCEOが記録に残した発言である。

OpenAI側では、内部記録により同社が2021年の時点でAPIが既存コンテンツをそのまま再現する可能性を認識しており、メモリゼーションの防止が「フェアユース準拠と」法的リスクの最小化にとって重要であることを把握していたことが示されている。同社はまた、学習データ取得の際にペイウォールを回避し、利用規約に違反していたことを認識しており、組織内の一部の人物がそれらの問題を許容できるコストとして扱っていたことも記録されている。

「この訴訟は、MicrosoftのApplied Science担当ディレクターが述べたように、『前例のない規模の驚異的な窃盗』――おそらく『人類史上最大の労働搾取』――に関するものである。」

— 裁判所申立書、NYT対OpenAI

大規模な学習データにおける先例問題

大手AI企業が学習データの調達をめぐる審判に直面するのは、これが初めてではない。Stability AIが2023年に同様の申し立てに直面した際、同社の立場は本質的にスクレイピングが法的に未解決の領域であるというものだった。OpenAI-Microsoftの状況が構造的に異なるのは、問題となる言語が社内から来ている点だ――敵対的な専門家ではなく、幹部や応用科学者たちによるものである。

AIアート制作者にとって、その波及的な影響は現実のものだ。画像生成モデルの背後にある学習データセットは、補償なしにウェブからビジュアルコンテンツをスクレイピングすることについて、類似した問題に直面している。NYT訴訟がテキストに関する先例を確立する判決――またはライセンス条件を含む和解――を生み出した場合、そのフレームワークはほぼ即座に画像データにも適用されることが予想される。ライセンス取得済みまたは合成学習データへの移行をすでに進めているプラットフォームは構造的優位を得る一方、未フィルタリングのウェブスクレイピングに依然依存しているプラットフォームは、現在マンハッタンで争われているのと同じ法的責任リスクに直面することになる。

Charmlooopの利用可能なモデルのカタログはすでにこの変化の一部を反映しており、プロバイダーはライセンス取得済みデータセットとスクレイピングデータセットで学習したモデルをますます区別するようになっている――この区別は倫理的な問題にとどまらず、法的にも重要になろうとしている。

以前の未編集のMicrosoft申立書に関する報道では、最初の文書開示の概要を伝えた。今回新たに封印解除された記録はさらに踏み込んでおり、「破滅のループ」のフレーミングとメモリゼーションの認識を直接裁判記録に組み込んでいる。

この訴訟にはまだ裁判日程が設定されていない。次の決定的な局面は、裁判所が略式判決申立てをどのように裁定するかだ――その決定が和解を強いるか、あるいは「破滅のループ」文書を陪審員の前に持ち込むかを左右することになる。