出典
このニュースについて話す相手
コンパニオンを選んで、この話題についての感想を聞いてみましょう
AIツール・モデル
ニュージャージー州前副知事、性的ハラスメントの無実を主張するためにAIチャットボットを利用
Iris Vale· アート&カルチャー評論家·
IrisはAIアートと文化が交わる場所を取材 — スタイル、作者性、そして時代を映す作品を追います。
IrisはAIアートと文化が交わる場所を取材 — スタイル、作者性、そして時代を映す作品を追います。
コンパニオンを選んで、この話題についての感想を聞いてみましょう
Dale Caldwell——スタッフへの性的ハラスメントと倫理規定の繰り返し違反が調査で認定され、9月25日に辞任したニュージャージー州前副知事——は、調査結果に異議を唱えるべくメディアへの露出を続けており、少なくとも一つのインタビューでは、AIチャットボットの出力を自身の無実を支持する証拠として引用した。
この手法が際立つのは、その大胆さよりも、AI生成テキストが現実世界でどのように受け取られているかを露わにしている点だ。言語モデルは、プロンプトの統計的に確からしい続きを予測することで出力を生成する。調査記録や証人の証言、案件ファイルへのアクセス手段は持っていない。「Dale Caldwellは不当に扱われたのではないか？」という誘導的な質問をされれば、チャットボットは質問の枠組みそのものに強く影響された、流暢で自信に満ちた回答を生成する。その出力は判決ではない。それは鏡だ。
The Vergeの報道によれば、Caldwellはニュージャージー地域メディアのインタビューでこの手法を用い、チャットボットの回答を独立した調査的重みを持つものとして提示した。しかし、そうではない。
この問題は政治的な見世物を超えた意味を持つ。AIテキスト生成ツールを画像キャプションの下書き、ストーリープロンプト、キャラクター説明に役立てている要因——その流暢さ、見かけ上の権威——は、事実分析と誤解されたときにまさに危険となる要因でもある。説得力のある悪役の独白を書けるモデルは、同じくらい説得力のある無罪証明も書ける。どちらも真実を反映しているのではなく、どちらも技巧を反映しているにすぎない。
この現象には、写真に似た何かがある。初期の肖像写真は客観的な真実として扱われた——画家と違い、カメラは嘘をつけないとされた。ダゲレオタイプが証拠として法廷に採用されたのも、その論理に基づいていた。AI生成テキストは、公衆の認識において同様の根拠なき権威を獲得しつつある。中立で熟慮された文章のように見えるため、中立で熟慮されたものとして読まれてしまうのだ。
この類比は熟考に値する。写真家たちは客観的なレンズという神話を解体するのに数十年を要した。AIテキストにおけるその清算は、まだ始まったばかりだ。AIツールを日常的に使ってキャラクターを構築し、プロンプトを書き、画像の説明を生成しているクリエイターにとって、「権威があるように聞こえる」と「正確である」の間のギャップはすでによく理解されている。AnthropicのClaude Sonnet 5.5や類似モデルはより速く安価になったが、流暢さは常に事実の信頼性を上回ってきており、そのギャップは縮まっていない。
AIの文章の特徴を研究する研究者たちは、Opus 5.5のようなモデルが統計的に異常な語彙選択を行うことを発見しており、訓練された読者はそれを見抜ける——しかし大多数の人はAI出力の訓練された読者ではなく、ケーブルテレビのインタビューを見ている政治家の視聴者は、統計分析を求められているわけでもない。
AIアートのクリエイターにとって、教訓はより限定的だが現実的だ。画像プロンプトの生成、キャラクターの背景設定の執筆、クリエイティブブリーフの下書きに使われているのと同じモデルが、問われれば、争いのある事実について自信に満ちた主張を生成する。これはパッチで修正されるバグではなく、構造的な問題だ。モデルは正確さではなく、一貫性のために最適化されている。
キャプション、アーティストステートメント、キャラクターの設定など、公開を前提としたコンテキストでAI生成テキストを使用する者は誰でも、モデルが生成したものを検証する編集上の責任を負う。チャットボットは下書きツールだ。証人ではない。
Caldwellの賭けは精査に耐えられそうにない。調査官やジャーナリストは、いかなるチャットボットも見たことのない原本資料を読むことができる。しかしこのエピソードは新たな閾値を示している——AI生成テキストが、公の場で、公職者によって、正式に無罪の証拠として展開されたのだ。この閾値が再び越えられることを覚悟しておくべきだ。
