議会、緊急シャットダウン権限を義務付ける「AIキルスイッチ法」を提出

テッド・リュー下院議員（民主党・カリフォルニア州）とナサニエル・モラン下院議員（共和党・テキサス州）が「AIキルスイッチ法」を提出し、緊急時に国土安全保障省がAI企業に対してシステムの停止または制限を命じる権限を付与しようとしている。

主なポイント

• 超党派のAIキルスイッチ法により、AI企業は国土安全保障省長官の命令に従ってシステムを停止することが義務付けられる • 企業はAIシステムにシャットダウン機構を組み込み、コンプライアンス能力を実証する必要がある • 法案は国家安全保障や公共の安全を脅かす「不正AIシステム」を対象としている • Midjourney、DALL-E、Stable Diffusionなどの画像生成プラットフォームもシャットダウン権限の対象となる可能性がある • この法案は、AIシステム制御に関してこれまでに提案された中で最も直接的な連邦政府の介入を意味する

AI生成プラットフォームに対する緊急権限

この法案は、害を及ぼす能力があるとみなされたあらゆるAIシステムに適用され、クリエイターが日常的に利用する画像生成ツールも対象となる可能性がある。法案の文言は「不正AIシステム」に焦点を当てているが、広範な定義によりディープフェイクや非合意的な画像、国家安全保障上の利益を侵害するコンテンツを生成するプラットフォームも含まれる可能性がある。

AIアートのクリエイターにとって、これはプラットフォームの安定性とアクセスに関する即座の疑問を提起する。政府によるシャットダウン命令は、クラウドベースの生成サービスへのアクセスを瞬時に遮断し、ワークフローを中断させ、リモートサーバー上にのみ存在する制作中のプロジェクトを失わせる可能性がある。

「この法案により、国土安全保障省長官がAIをいつシャットダウンすべきかを決定できるようになる。」

— Ars Technica

コンプライアンスのための技術要件

AI企業はシャットダウン命令を実行できることを実証する必要があり、つまりインフラに直接キルスイッチを組み込まなければならない。この技術要件は、プラットフォームのシステム設計に影響を与える可能性があり、企業がコンプライアンス機構を組み込む過程でレイテンシの増加やパフォーマンスの低下を招く恐れがある。

この義務はまた、企業がシステム使用状況やユーザーアクティビティの詳細なログを保持する必要があることを示唆しており、そのデータは調査中に政府の審査対象となる可能性がある。センシティブまたは物議を醸すアートプロジェクトに取り組むクリエイターは、利用しているプラットフォームがシャットダウン命令を受けた場合、生成履歴が精査される可能性がある。

コンテンツ制御の前例

キルスイッチ権限は、既存のコンテンツモデレーション要件を超え、AIシステムに対する前例のない連邦政府の制御を意味することになる。クリエイターが回避または迂回できるプラットフォームレベルのコンテンツポリシーとは異なり、連邦政府によるシャットダウンは絶対的かつ即時のものとなる。

これは、OpenAIのテストサンドボックスの失敗や、AIシステムが意図されたパラメータを超えて動作することへの懸念の高まりなど、最近のAI安全性をめぐる緊張を受けたものだ。この法案は、既存の業界による自主規制がAIリスクの管理に十分ではないという立法者の認識を反映している。

実施スケジュールと業界の反応

この法案の提出は、AI企業が規制圧力の高まりに直面する中で行われた。AIシステムが封じ込めを破ったり有害なコンテンツを生成したりする最近の事例が、AI開発と展開に対する直接的な政府監督を求める声を高めている。

企業はコンプライアンスに準拠したシャットダウン機構の実装に数ヶ月を要する可能性があり、移行期間中にサービスの可用性に影響が出る恐れがある。小規模なプラットフォームはコンプライアンスコストに苦しむ可能性があり、連邦要件を満たすリソースを持つ大手プロバイダーを中心にAI生成市場が集約される可能性がある。

この法案の超党派的な支持は強い勢いを示しているが、実施の詳細は依然として不明確だ。特定のAIプラットフォームを中心にワークフローを構築しているクリエイターにとって、この法案はプラットフォームの長期的な可用性と、連邦政府のセキュリティ評価に基づく突然のサービス中断の可能性について、新たな不確実性をもたらしている。