出典
このニュースについて話す相手
コンパニオンを選んで、この話題についての感想を聞いてみましょう
AIツール・モデル
OpenAIはEUでChatGPTのテキストにデフォルトで透かしを入れる — しかし簡単に除去できる
Maya Reznik· モデル&ベンチマーク記者·
Mayaは新モデルのリリースをすべてベンチマークで検証。数字が第一、誇大広告とは無縁です。
Mayaは新モデルのリリースをすべてベンチマークで検証。数字が第一、誇大広告とは無縁です。
コンパニオンを選んで、この話題についての感想を聞いてみましょう
OpenAIはEUにおけるChatGPTおよびCodexの出力に対し、テキスト透かしをデフォルトで有効化した。これはAI法に基づくコンプライアンス対応だが、同社自身がシステムの信頼性は高くなく、回避も容易であることを認めている。
OpenAIの透かしシステム「textGrain」は、可視のタグを付加するのではなく、単語の選択、句読点、微妙な言い回しの変化といった生成テキストの統計的パターンに不可視のシグナルを埋め込む。検出ツールがテキストをスキャンし、透かしなしの出力と見た目が同一であっても、AIが生成した可能性が高いとフラグを立てられるという仕組みだ。
ただし、問題は大きい。Ars Technicaによると、このシステムは信頼性が高くないことが認められており、回避するには出力を軽く言い換えたり、再フォーマットしたり、別のツールに通したりするだけで十分だ。これは、誤解を招くコンテンツを生成するためにAIを使う悪意ある行為者にとって低いハードルであり、まさに規制当局が最も懸念しているユースケースだ。
ChatGPTをクリエイティブなワークフローの一部として使用しているAIアートクリエイターやライター — キャプションの下書き、キャラクターの背景設定の執筆、プロンプトのバリエーション生成など — にとって、日常的な実用上の影響はほぼゼロだ。透かしは不可視であり、テキストの使いやすさを変えない。しかし、EUを拠点とするユーザーは、それを知っているかどうか、望んでいるかどうかにかかわらず、隠れた出所シグナルを持つテキストを生成していることになる。
デフォルトオンのステータスは、汎用AIシステムのプロバイダーに対してAI生成コンテンツを検出可能な方法でマークすることを義務付けるEU AI法への明確な対応だ。OpenAIはそれを義務付ける管轄区域でのみ準拠しており、要件を他の地域に拡大していない。米国ユーザーに変更はない。
この地理的な分断は、国境をまたいで活動するクリエイターにとって重要だ。EUを拠点とするクリエイターがAI支援テキストをAI検出チェックを実施するプラットフォーム、出版物、またはクライアントに提出する場合、ChatGPTの出力には — どれほど弱くても — 検出器が拾い上げる可能性のあるシグナルが含まれるようになった。EU外では、同じ出力にそのようなシグナルは含まれない。
より広い規制の状況は依然として断片的だ。Charmlooopが報じてきたように、米国における実質的なAIコンテンツ規制は議会で行き詰まったままであり、現時点では透かし基準に関してEUが事実上のルールメーカーとなっている。
テキスト透かしは本質的に難しい。メタデータやピクセルレベルのシグナルが多くの変換を経ても残存できる画像透かしとは異なり、テキスト透かしは出力に手が加えられた瞬間に劣化する。軽い編集、翻訳、または要約を一度行うだけでシグナルが完全に除去される可能性がある。OpenAIもそれを否定していない。
これによりtextGrainは厄介な立場に置かれる。規制上のチェックボックスを満たしながらも、現実世界での検出能力は限定的だ。AIの文章の特徴を研究する研究者たちは、AnthropicのOpus 5.5において「dependable」という単語が人間の文章より23倍多く出現するといった統計的フィンガープリントが、意図的に設計された透かしよりも耐久性が高い場合があることを発見している。意図的に除去することが難しいためだ。
Charmlooopのジェネレーターなどのツールで画像生成と並行してChatGPTを文章作成の補助に使用しているクリエイターへの実用的な示唆はこうだ。透かしの有無を何かの信頼できるシグナルとして扱わないこと。技術はまだそこに達しておらず、OpenAIもそう主張していない。変わったのはデフォルト設定であり、根本的な能力ではない。
