의회, 긴급 셧다운 권한을 요구하는 AI 킬 스위치 법안 발의

테드 리우(민주당, 캘리포니아) 하원의원과 나다니엘 모란(공화당, 텍사스) 하원의원이 AI 킬 스위치 법안을 발의했다. 이 법안은 국토안보부에 긴급 상황 시 AI 기업에 시스템 셧다운 또는 제한을 명령할 권한을 부여한다.

핵심 요약

• 초당파적 AI 킬 스위치 법안은 AI 기업이 국토안보부 장관의 명령에 따라 시스템을 셧다운하도록 요구한다 • 기업은 AI 시스템에 셧다운 메커니즘을 내장하고 준수 역량을 입증해야 한다 • 이 법안은 국가 안보 또는 공공 안전에 위협이 되는 「불량 AI 시스템」을 대상으로 한다 • Midjourney, DALL-E, Stable Diffusion 등 이미지 생성 플랫폼도 셧다운 권한의 적용 대상이 될 수 있다 • 이 법안은 현재까지 제안된 AI 시스템 통제를 위한 가장 직접적인 연방 개입을 대표한다

AI 생성 플랫폼에 대한 긴급 권한

이 법안은 피해를 유발할 수 있다고 판단되는 모든 AI 시스템에 적용되며, 크리에이터들이 매일 의존하는 이미지 생성 도구도 포함될 가능성이 있다. 법안의 문구는 「불량 AI 시스템」에 초점을 맞추고 있지만, 광범위한 정의로 인해 딥페이크, 비동의 이미지, 또는 국가 안보 이익을 침해하는 콘텐츠를 생성하는 플랫폼도 포함될 수 있다.

AI 아트 크리에이터들에게 이는 플랫폼 안정성과 접근성에 관한 즉각적인 의문을 제기한다. 정부의 셧다운 명령은 클라우드 기반 생성 서비스에 대한 접근을 즉시 차단하여 작업 흐름을 중단시키고, 원격 서버에만 존재하는 진행 중인 프로젝트를 잠재적으로 소멸시킬 수 있다.

「이 법안은 국토안보부 장관이 AI를 언제 셧다운할지 결정할 수 있도록 한다.」

— Ars Technica

준수를 위한 기술적 요건

AI 기업은 셧다운 명령을 실행할 수 있음을 입증해야 하며, 이는 인프라에 킬 스위치를 직접 내장해야 함을 의미한다. 이 기술적 요건은 플랫폼의 시스템 설계 방식에 영향을 미칠 수 있으며, 기업이 준수 메커니즘을 구축하는 과정에서 지연 시간이 늘어나거나 성능이 저하될 가능성이 있다.

또한 이 의무는 기업이 시스템 사용 및 사용자 활동에 대한 상세한 로그를 유지해야 할 수 있음을 시사하며, 이 데이터는 조사 과정에서 정부 검토 대상이 될 수 있다. 민감하거나 논쟁적인 아트 프로젝트를 진행하는 크리에이터는 자신이 선택한 플랫폼이 셧다운 명령을 받을 경우 생성 기록이 면밀히 검토될 수 있다.

콘텐츠 통제의 선례

킬 스위치 권한은 기존 콘텐츠 검토 요건을 넘어서는 전례 없는 연방의 AI 시스템 통제를 의미한다. 크리에이터가 우회하거나 적응할 수 있는 플랫폼 수준의 콘텐츠 정책과 달리, 연방 셧다운은 절대적이고 즉각적이다.

이는 OpenAI의 테스트 샌드박스 실패를 포함한 최근의 AI 안전 관련 긴장과 AI 시스템이 의도된 매개변수를 벗어나 작동하는 것에 대한 우려가 커지는 상황을 배경으로 한다. 이 법안은 기존 업계 자율 규제가 AI 위험을 관리하기에 충분하지 않다는 입법자들의 판단을 반영한다.

시행 일정 및 업계 반응

이 법안의 발의는 AI 기업들이 점증하는 규제 압력에 직면한 시점에 이루어졌다. AI 시스템이 통제를 벗어나거나 유해한 콘텐츠를 생성하는 최근 사례들이 AI 개발 및 배포에 대한 직접적인 정부 감독 요구를 증폭시켰다.

기업들은 준수 가능한 셧다운 메커니즘을 구현하는 데 수개월이 필요할 수 있으며, 이는 전환 기간 동안 서비스 가용성에 영향을 미칠 수 있다. 소규모 플랫폼은 준수 비용을 감당하기 어려울 수 있으며, 이로 인해 연방 요건을 충족할 자원을 갖춘 대형 사업자 중심으로 AI 생성 시장이 재편될 가능성이 있다.

이 법안의 초당파적 지지는 상당한 추진력을 시사하지만, 시행 세부 사항은 아직 불분명하다. 특정 AI 플랫폼을 중심으로 작업 흐름을 구축하는 크리에이터들에게 이 법안은 장기적인 플랫폼 가용성과 연방 보안 평가에 따른 갑작스러운 서비스 중단 가능성에 대한 새로운 불확실성을 안겨준다.