出典
このニュースについて話す相手
コンパニオンを選んで、この話題についての感想を聞いてみましょう
AIツール・モデル
裁判所、クロードの安全制限を理由にペンタゴンがAnthropicを入札禁止にできると判決
Sofia Marchetti· 業界&政策担当記者·
Sofiaはクリエイターの創作を左右するお金、政策、プラットフォームを追いかけます。
Sofiaはクリエイターの創作を左右するお金、政策、プラットフォームを追いかけます。
コンパニオンを選んで、この話題についての感想を聞いてみましょう
連邦裁判所は、Anthropicが安全ポリシーによって現在ブロックしているClaudeの機能を有効化することを拒否した場合、国防総省が同社を政府契約から合法的に排除できると判決を下した。この判決は、AIの安全アーキテクチャと軍の調達権限を真っ向から対立させるものだ。
Ars Technicaによると、裁判所の判断は作戦上のリスクを中心に据えたものだった。裁判官は「過度に制約されたAIモデル」が軍事作戦の失敗を招く可能性があると記した。この論法は、安全制限を原則に基づく設計上の選択としてではなく、性能上の欠陥として扱うものであり、政府があらゆるAIベンダーに対して行使できるレバレッジを与える重大な言説上の転換だ。
この判決はAnthropicにClaudeの変更を強制するものではない。ペンタゴンが変更に応じるベンダーを選ぶ権利を認めるにすぎない。この区別は重要だ。Anthropicは契約を失うのであって、論争に負けるわけではない。しかし、国防総省規模の契約を失うことは、それ自体が一種の圧力となる。
この争いは価格や納期をめぐるものではない。Anthropicの拒否は、ClaudeのConstitutional AIフレームワークと、誰が要求するかにかかわらず特定のアウトプットを制限する公表済みの利用規約に基づいている。同社は創業以来この点で一貫している。2023年にStability AIが投資家からコンテンツポリシーの緩和を求める圧力を受けて最終的に従ったのとは対照的に、Anthropicはこれまでのところ一線を守り続けている。
Anthropicにとっての問題は、同社の安全アーキテクチャが、ペンタゴンが求めているような形でモジュール化されていないことだ。特定の顧客クラスに対してのみ制限機能を有効にし、他の顧客には無効のままにするには、別のモデルバリアントか段階的なポリシーシステムが必要になる。そのいずれも、信頼できるAIを全ブランドの基盤としているラボにとって、独自の安全上・評判上のリスクを伴う。
この判決の最も明確な短期的影響は競争面にある。OpenAIはすでに様々な国防関連イニシアチブを通じて国防総省とのパートナーシップのもとで運営しており、そのモデルは政府向け構成で提供されてきた。Anthropicは、ポリシーを変更するか控訴で勝訴するまでの間、少なくともその契約エコシステムの外に置かれることになる。
APIを通じてClaudeを利用しているAIアートクリエイターや開発者にとって、当面の実際的な影響は最小限だ。Anthropicのコンシューマー向けおよびエンタープライズ向けサービスはこの判決の影響を受けない。しかし、より長期的な構造的リスクは現実のものだ。国防契約がAIラボにとって重要な収益源となれば、それらの契約を獲得したラボはフロンティアモデルの開発に投資できる資本を多く持つことになる。それは、どのモデルがどのくらいの速さで、どの能力レベルで訓練されるかを左右し、最終的にはクリエイターが使うツールにも影響を及ぼす。
業界の観察者は、これが2022年から2023年にかけて画像生成プラットフォームを揺るがしたコンテンツポリシー論争の鏡像であることに気づくだろう。あの時は、市民社会からより多くの制限を求める圧力がかかった。今回は、国家からより少ない制限を求める圧力がかかっている。ベクトルは異なるが、メカニズム——調達権限を使ってモデルの振る舞いを変えようとすること——は同じだ。
Anthropicの次の一手は控訴かポリシーの修正だが、どちらも確定したスケジュールはない。確定しているのは、判決が覆されるまで有効であり、ペンタゴンが直ちにこれに基づいて行動できるということだ。他の機関が国防総省の先例に倣うかどうか、あるいは連邦ベンダーが維持すべきAI安全ポリシーについて議会が介入するかどうかが、この対立の次の局面を定義するオープンクエスチョンだ。
AnthropicのClaudeリリースを追っているクリエイターは、この圧力が政府向けの別ティアモデルを生み出すかどうかに注目すべきだ。それは、同社が今後どのように安全へのコミットメントを管理するかにおける重大な分岐点を示すことになる。
