出典
週刊ダイジェスト
AIアートの最前線へ
今週のAI・AIアートの注目ストーリーをメールでお届け。厳選・簡潔・無料です。
無料。いつでも配信停止できます。
AIツール・モデル
Substackが、ニュースレターのどれだけがAIによって書かれたかを読者に示すAI検出ツールを公開
Charmloop 編集チーム· 編集部·
今週のAI・AIアートの注目ストーリーをメールでお届け。厳選・簡潔・無料です。
無料。いつでも配信停止できます。
Substackは、ニュースレターのテキストのどの程度がAIによって書かれたかを推定し、その推定値を読者に公開するAI検出機能を公開した。これにより、プラットフォーム上でAIを活用するすべてのライターが新たな監視下に置かれることになる。
Substackの新ツールは、AIライティングの推定値をニュースレター読者に直接提示する。
TechCrunchによると、この機能は特定の号のどの程度がAIによって書かれたかをパーセンテージベースで推定し、その数値を読者に提供する。この数値は、文章パターンを分析する検出モデルから導き出される。Substackはどの基盤となる検出技術を使用しているかを開示しておらず、AIの割合スコアが高い場合に収益化や配信上のペナルティが発動するかどうかについても発表していない。
その不確実性は重要だ。AIツールをリサーチのまとめ、見出しの下書き、または構造的なアウトラインに使用しているライター——全面的な生成ではなく——は、実際のプロセスを反映しない割合でフラグを立てられる可能性がある。AI検出ツールには誤検知の問題が記録されている。高度に構造化された編集済みの文章は、人間がすべての言葉を書いた場合でも、機械生成として読み取られることがある。
Substackの動きは明確なパターンに合致している。YouTubeは収益化ポリシーを更新し、低品質なAI生成コンテンツを広告収入から明示的に排除した。PatreonはCloudflareと提携してAIトレーニングスクレイパーをブロックした。これらはそれぞれ異なる圧力点を表している——YouTubeは財布を直撃し、Patreонはデータパイプラインを保護し、そしてSubstackは今、読者の信頼を直接ターゲットにしている。
読者向けのフレーミングが最も鋭い刃だ。収益化のペナルティは舞台裏で起こるが、ニュースレター上に表示されるAI割合のラベルは、読者が一文も読む前にライターをどう認識するかを形成する。声と真正性で読者を築いてきたライターにとって、そのラベルは——たとえ不正確であっても——信頼性へのリスクとなる。
AIツールをライティングワークフローの一部として使用しているクリエイターにとって、計算が変わる。これまで開示されていなかった軽く編集されたAIドラフトには、今や目に見えるフラグが付く。構造的な足場にAIを使用しながら大幅に書き直しているライターでも、スコアに異議を申し立てたり文脈を説明したりするプラットフォーム上のメカニズムなしにフラグを立てられる可能性がある。
より賢明な対応は先手を打った開示だ。AI支援プロセスを公然と説明するライター——署名欄のメモや導入段落で——は、検出スコアを告発ではなく確認として再フレーミングできる。その透明性の戦略は、開示されていないAI使用に懐疑的になっている読者にも好意的に受け取られる傾向がある。その懐疑心は、検出ツールが標準的なインフラになるにつれて加速している。
Substackの機能がレコメンデーションや発見のアルゴリズムに影響するかどうかも注目に値する。AIの割合スコアが高い場合に、正式なポリシーなしに静かに配信が抑制されるなら、ライターにはそれを知る方法がない。プラットフォームはその問題について公式には言及していない。
テキストと画像生成の両方で活動しているクリエイターにとって、このダイナミクスは馴染み深い。制作を速くするツールは、出所もより見えやすくする。AI画像生成の分野は、透かしと出所をめぐる議論に何年も取り組んできた。テキストは今それに追いついている。違いは、画像の透かしはエンドユーザーには見えないことが多いのに対し、Substackのパーセンテージラベルは前面に出ている——AIの使用をバックエンドのモデレーションシグナルではなく、読者に見える属性にするという意図的な選択だ。
Substackの検出が実際にどれほど正確であるかが、この機能が信頼を築くのか、単に不安を生み出すのかを決定するだろう。いずれにせよ、プラットフォーム上でAI支援ニュースレターが検出されずに済む時代は、事実上終わった。
