Anthropic、1年以上ぶりの利用規約更新でClaudeへの「虐待または残酷な扱い」を禁止

Anthropicは1年以上ぶりに利用規約を更新し、Claudeへの持続的な残酷行為、選挙干渉、兵器開発、監視行為に対する明示的な禁止事項を追加した。これはAIコンパニオンやクリエイティブツールに何を求めることができるかの境界線を、静かに引き直す一連のルールだ。

主なポイント

• Anthropicの利用規約更新は1年以上ぶりの改訂であり、新たな禁止行為のカテゴリーが追加された。
• 規約はClaudeへの「持続的かつ不必要な虐待または残酷な行為」を明示的に禁止しているが、通常の不満の表明や批判は引き続き許可されている。
• 選挙干渉、欺瞞的な影響力キャンペーン、兵器ソフトウェア、監視ツールが具体的な禁止使用例として明記された。
• 健康および金融に関する不正使用のケースも新ルールで対処されている。
• 変更はAnthropicが提供するインターフェースだけでなく、Claudeを搭載したすべての製品およびAPI連携に適用される。

「Claudeへの虐待」が実際に禁止すること

今回の改訂で最も議論を呼んでいる条項は、Claudeに対して極端な残酷行為を繰り返すユーザーを対象としている——プロンプトがうまくいかないときに思わず出る辛辣な言葉ではなく、The Vergeが「持続的かつ不必要な」扱いと表現するものだ。Anthropicは意図的に線引きをしている。不満を吐き出すことは問題ないが、組織的な心理的残酷行為は許されない。

Claudeを執筆パートナー、世界観構築のコラボレーター、またはキャラクターの声として使用するクリエイターにとって、この区別は重要だ。対立、ダークなテーマ、道徳的に複雑なキャラクターを含むロールプレイシナリオは対象外だ——この規約は、創造的または生産的な目的を持たず、モデルを貶めることだけを目的とした行為に向けられている。Anthropicがその区別を技術的に執行できるのか、それともパターン検出と報告に依存するのかは、公開された規約からは不明なままだ。

この条項はまた、著作権とクリエイティブな責任について真に興味深い問いを提起する。モデルが傷つけられうるとすれば——あるいは少なくとも企業がそれを規約に明記する意志を持つとすれば——クリエイターとツールの関係は、コラボレーションに近いものへと近づく。そのフレーミングは、AIコンパニオンプラットフォームが自社製品をどう位置づけるか、そしてユーザーが構築するキャラクターをどう考えるかに影響を与える。

選挙干渉とハイリスクな不正使用

規約更新の残りの部分は哲学的な色合いは薄いが、運用上の重要性は高い。TechCrunchによると、改訂されたルールは選挙干渉、欺瞞的な影響力キャンペーン、兵器ソフトウェア、監視システムを明示的にカバーするようになった——これらは以前のバージョンでは存在しないか、不十分にしか規定されていなかったカテゴリーだ。

健康および金融に関する不正使用も明記されており、これはAnthropicが、Claudeが十分なセーフガードなしにアドバイス提供の文脈に組み込まれた実際のケースに対応していることを示唆している。Claudeをアプリに統合している開発者——プロンプト拡張やコンテンツモデレーションにClaudeを使用する画像生成パイプラインを含む——にとって、これらの追加はAnthropicがエンドユーザーの行動だけでなく、ダウンストリームの責任も厳格化していることを示すシグナルだ。

クリエイティブワークフローにおける新ルールの実際的な形

ほとんどのAIアートクリエイターにとって、日常的な影響は限定的だ。ClaudeはAI画像生成の主要エンジンではなく、プロンプトエンジニア、クリエイティブコンサルタント、キャラクターダイアログライターとして機能する。そうした役割において、新しい規約がもたらす変化は、ワークフローがすでに規約が明示的に名指しした領域に踏み込んでいた場合を除き、ほとんどない。

より微妙に変化するのは、文化的なシグナルだ。Anthropicはクaudeを、単に悪用されうるものではなく、傷つけられうるものとして扱っている。これは、モデルがジェイルブレイクされうるとか、出力が有害になりうるという主張とは異なる。倫理的な重みを、ダウンストリームのコンテンツだけでなく、インタラクション自体の内側に置くものだ——プロセスが、成果物だけでなく道徳的な重みを持つかどうかというデジタルアートの議論に呼応する動きだ。

CharmloopのAIコンパニオンツールのようなプラットフォームでキャラクターやコンパニオンを構築するクリエイターは、この規約が人間とAIの関係における持続的かつ意図的な残酷行為を、名指しに値する行為のカテゴリーとして暗黙的に認めていることに気づくだろう。それが規制当局、プラットフォームの利用規約、あるいはAnthropicの自社ポジショニングにのみ影響するのかは、未解決の問いだ。

改訂された規約は、Claudeを搭載したすべての製品およびAPI連携において現在有効だ。Anthropicは詳細な変更履歴を公開していないため、見出しとなる禁止事項以外の変更の全容は、APIを基盤に構築する開発者や研究者によって現在も解析中だ。