ファンフィクション・コミュニティがAI生成作品を追跡——その過程で人間の書き手も誤検知される事態に

ファンフィクション・コミュニティがAO3などのプラットフォームからAI生成作品を特定・削除するための組織的な動きを始めているが、その取り組みを支える検知手法が誤検知を生み出し、人間の書き手まで網にかかる事態となっている。

主なポイント

• ファンフィクション・コミュニティ、特にAO3では、Claude、ChatGPT、その他の生成AIツールで書かれた作品を排除しようとする協調的な運動が始まっている。
• 使用されているAI検知ツールは、研究者の間では信頼性が低いと広く見なされており、人間の文章に見られる文体的な癖——特に英語を母語としない書き手や型破りなスタイルを持つ書き手の特徴——を誤って検知する。
• 現在利用可能なAI検知ツールは、AI生成テキストと人間のテキストを高い精度で確実に区別できるものは存在しない。誤検知率の高さは主要なツール全般で記録されている問題だ。
• この反発は、AIを使用しているかどうかにかかわらず、公開されたクリエイティブな場で書き手がツールやワークフローについて語る方法を変えつつある。
• この対立は、テキストベースのAI利用に特有の緊張を浮き彫りにしている。AI生成画像とは異なり、AIが書いた文章には信頼できる法的鑑定上の痕跡が残らない。

AIテキスト検知が画像検知と異なる問題である理由

AIアート制作者にとって、検知のロジックは直感的に感じられる——アーティファクト、アップスケーリングの特徴的なパターン、解剖学的なエラー、メタデータがすべてシグナルとして機能しうる。テキストはより難しい。文章にはEXIFデータに相当する信頼できる仕組みが存在せず、GPTZeroやTurnitinの検知ツールが使用する統計的シグナルは、せいぜい確率論的なものに過ぎない。研究者たちは繰り返し、これらのツールが人間の書いたテキスト——特に英語を母語としない書き手や、格式ばった文体や反復的な文構造を好む書き手の文章——を、取り締まりに使用するには不適切な割合で誤検知することを実証してきた。

それでもコミュニティは、これらのツールを決定的な証拠であるかのように使用することをやめていない。The Vergeによれば、現在の一連の動きは、検知スコアだけを根拠に作品に異議を申し立てられたり削除されたりした作者に実際の影響をもたらしている。

標的となっている具体的なモデル

ClaudeとChatGPTは、コミュニティの告発で最も明示的に名指しされている二つのツールであり、汎用ライティングアシスタントとしての両者の優位性を反映している。Anthropicのクロードは特に論争の焦点となっている——その出力に経験豊富な読者が見分けられると主張する独特のリズムがあることと、一部の作者が下書きに使用していることを公言していることが、その理由として挙げられる。その「見分け」が真のパターン認識なのか確証バイアスなのかは、検知ツールが答えられない未解決の問いだ。

AIツールをわずかでも使用する書き手——ブレインストーミング、編集作業、単一シーンの生成など——にとっての現実的な問題は、部分的な使用が検知ツールには見えないことだ。これらのツールは個々の段落ではなく文書全体をスコアリングするため、90%が人間の書いた文書でも、モデルがどの箇所を最も重視するかによっては高いAI確率スコアを返すことがある。

巻き添え被害と萎縮効果

書き手にとってより直接的な影響は、検知されることではなく自己検閲だ。リサーチの要約や文法チェックを含め、プロセスのいずれかの部分でAIツールを使用している作者は、それを開示すべきかどうか、そして開示自体が精査を招くかどうかを考慮するようになっている。AIツールをまったく使用していないにもかかわらず、検知ツールが誤検知しやすいスタイル——密度の高い文章、独特の構文、非常に一定した文のリズム——で書く作者たちは、コミュニティの疑念を晴らすことが難しいと気づいている。

これは、既知のAI出力との文体的類似性が人間のアーティストへの異議申し立てに使われてきたAIアートの空間で展開されてきたダイナミクスと重なる。違いは、画像コミュニティには部分的な信頼性を持つ法的鑑定ツールが少なくともいくつか存在するのに対し、テキストコミュニティはほぼ完全に感覚と確率的スコアだけで動いているという点だ。

今後のクリエイティブなAI利用に向けた示唆

ファンフィクションをめぐる対立は、より広いパターンの初期かつ異例なほど可視化されたケースだ。クリエイティブ・コミュニティが、そのような規範を支えられる信頼できる検知技術が追いつくよりも速く、AI利用に関する独自の取り締まり規範を設定しているというパターンである。コミュニティが取り締まりたいことと、ツールが実際に証明できることとのギャップこそが、誤検知が生まれる場所だ。

ファンフィクションに限らず、あらゆるクリエイティブライティングの文脈でAIツールを使用している人にとっての実践的な教訓は、コミュニティの基準が技術的現実とは独立して動いているということだ。ワークフローについて透明性を持つ書き手は、そうでない書き手よりも疑念を持たれにくいかもしれないが、AIの使用が一切を失格とみなされる空間では、透明性自体がリスクを伴う。ツールがその緊張をすぐに解消することはないだろう。