xAI, 누드화 방지법을 둘러싸고 미네소타주 고소... Grok 제한이 수정헌법 제1조 위반이라 주장

xAI가 미네소타주 법무장관 Keith Ellison을 상대로 연방 소송을 제기했다. 「누드화」 애플리케이션을 광범위하게 규제하는 주법에 이의를 제기하며, 이 법이 Grok의 이미지 생성 기능에 위헌적 제한을 가한다고 주장하고 있다.

주요 내용

• xAI는 미네소타주의 누드화 방지법이 회사로 하여금 Grok Imagine의 이미지 편집 기능을 제한하도록 강요함으로써 수정헌법 제1조를 위반한다고 주장 • 이번 소송은 주류 이미지 생성기에 영향을 미치는 주 차원의 AI 콘텐츠 제한에 대한 첫 번째 주요 법적 도전을 의미 • 5월에 통과된 미네소타주 법률은 동의 없이 AI로 생성된 누드 이미지를 제작하거나 배포하는 행위에 형사처벌을 부과 • 이 사건은 AI 기업들이 콘텐츠 생성에 관한 상충하는 주 규정을 어떻게 헤쳐나갈지에 대한 선례를 만들 수 있음 • 더 많은 주에서 누드화 금지법을 통과시키면서 다른 AI 이미지 생성기들도 유사한 규정 준수 문제에 직면할 수 있음

xAI의 헌법적 월권 주장

The Verge에 따르면, 회사는 미네소타주 법령이 「다양한 방식으로 Grok Imagine의 이미지 편집 기능을 제한할 수밖에 없는 실질적 선택권」을 남기지 않는다고 주장한다. xAI는 이것이 수정헌법 제1조로 보호받는 언론에 대한 사전 제재에 해당한다고 주장하고 있다.

미네소타주 법률은 동의 없이 식별 가능한 사람의 AI 생성 누드 또는 성적 이미지를 제작, 소지, 배포하는 행위에 형사처벌을 부과한다. 이 법령은 「누드화」를 워낙 광범위하게 정의해서 AI 기업들이 합법적인 예술적 또는 교육적 용도를 차단하지 않으면서 규정을 준수하는 콘텐츠 필터를 구현하는 데 어려움을 겪고 있다.

AI 이미지 생성에 대한 광범위한 영향

이번 소송은 주 차원의 콘텐츠 제한과 AI 기업들의 무제한 이미지 생성 기능 제공 욕구 사이의 증가하는 긴장을 부각시킨다. 더 많은 주에서 유사한 법안을 검토하면서, AI 플랫폼들은 서로 다른 법적 기준을 가진 관할권에서 일관된 사용자 경험을 유지해야 하는 과제에 직면하고 있다.

AI 이미지 생성기를 사용하는 크리에이터들에게 이러한 법적 불확실성은 더 공격적인 콘텐츠 필터링과 창작 유연성 감소를 의미할 수 있다. 기업들은 규정 준수 문제를 피하기 위해 다양한 주법의 가장 제한적인 해석을 구현하기로 선택할 수 있으며, 이 과정에서 합법적인 예술적 콘텐츠를 차단할 가능성이 있다.

이 사건은 또한 주법이 연방 헌법적 보호와 충돌할 때 AI 기업들이 콘텐츠 조정을 어떻게 처리해야 하는지에 대한 의문을 제기한다. 비동의 친밀한 이미지 방지는 널리 지지받고 있지만, 그러한 제한의 기술적 구현은 종종 더 광범위한 콘텐츠 범주에 영향을 미친다.

AI 규제 선례 설정

xAI의 이의 제기는 법원이 유해한 AI 생성 콘텐츠를 규제하려는 주의 노력에 대해 언론의 자유 보호를 어떻게 균형 잡을지에 대한 중요한 선례를 확립할 수 있다. 그 결과는 다른 AI 기업들이 AI 생성 이미지에 대한 신흥 주 차원 제한에 어떻게 접근할지에 영향을 미칠 수 있다.

이번 소송은 연방 의원들도 콘텐츠 제한과 안전 요구사항을 포함한 더 광범위한 AI 규제를 검토하고 있는 시점에 나왔다. xAI에 유리한 판결은 주들이 AI 시스템에 콘텐츠 기반 제한을 부과할 수 있는 능력을 제한할 수 있는 반면, 패소는 더 공격적인 주 차원의 AI 기능 규제를 장려할 수 있다.

AI 아트 커뮤니티에게 이 사건은 콘텐츠 생성 도구가 광범위하게 접근 가능한 상태로 남을지 아니면 증가하는 법적 제약에 직면할지에 대한 중요한 시험을 의미한다. 여기서 설정되는 선례는 미래의 AI 이미지 생성기가 주별 제한의 패치워크 하에서 운영될지 아니면 더 통일된 연방 기준 하에서 운영될지를 결정할 수 있다.