판사, 미네소타주 누디파이 앱 금지법 유지 결정…xAI 법정 패소

연방 판사가 비동의 누드 이미지를 생성하는 앱을 금지하는 미네소타주 법률의 집행 정지를 거부하면서, 일론 머스크의 xAI가 제기한 수정헌법 제1조 이의에도 불구하고 해당 규제가 효력을 발휘하게 됐다.

핵심 요약

• 연방 판사가 미네소타주 누드화 앱 금지법에 대한 xAI의 예비적 금지명령 신청을 기각하면서 해당 법률이 현재 효력을 발휘하고 있다.
• xAI는 해당 법률이 Grok의 이미지 생성 기능을 위헌적으로 제한한다고 주장했으나, 판사는 회사가 본안에서 승소할 가능성이 있다고 보지 않았다.
• 미네소타주 법률은 사용자가 비동의 누드 이미지를 생성할 수 있는 앱을 규제 대상으로 삼으며, 이러한 기능을 갖춘 AI 이미지 생성 도구도 포함된다.
• 본 소송은 계속 진행 중이므로, 이러한 금지법이 수정헌법 제1조 심사를 통과할 수 있는지에 대한 법적 쟁점은 아직 해결되지 않았다.
• 이번 판결은 주(州) 차원의 AI 이미지 규제가 주요 AI 기업의 도전을 받더라도 초기 법적 관문을 통과할 수 있음을 시사한다.

법원이 실제로 결정한 것과 결정하지 않은 것

예비적 금지명령 기각은 해당 법률의 합헌성에 대한 최종 판결이 아니다. 판사는 xAI가 본안에서 승소할 가능성이 있는지, 그리고 금지법이 즉시 발효될 경우 회복 불가능한 피해를 입을 것인지만을 판단했으며, 두 가지 기준 모두 충족되지 않는다고 보았다. TechCrunch에 따르면, 소송 자체는 법원에서 계속 진행 중이므로 xAI가 더 강력한 증거를 구축한다면 법률을 뒤집을 여지가 여전히 남아 있다.

이 사건을 정책 선례로 주목하는 이들에게 이 구분은 중요하다. 이번 판결은 누드화 금지법이 합헌이라는 것을 확립한 것이 아니라, 소송이 진행되는 동안 집행을 중단할 만큼 명백히 위헌적이지는 않다는 것을 확립한 것이다. 이는 좁지만 의미 있는 법적 결과다.

xAI가 제기하는 수정헌법 제1조 논거

xAI의 핵심 주장은 미네소타주 법률이 Grok의 이미지 생성 기능에 위헌적인 제한을 가한다는 것이다. 즉, 합성 누드 이미지를 포함한 이미지 생성 행위가 수정헌법 제1조가 보호하는 표현의 한 형태라는 논리다. Charmloop가 xAI가 소송을 처음 제기했을 때 보도한 바와 같이, 회사는 해당 법률을 특정 범주의 AI 출력물을 겨냥한 내용 기반 규제로 규정했다.

이 논거가 기각된 것은 아니다. 다만 정식으로 제정된 주(州) 법률을 재판 전에 동결하는 데 필요한 높은 기준을 충족하지 못했을 뿐이다. 법원은 일반적으로 주(州) 법률에 대한 예비적 금지명령 발령을 꺼리는 경향이 있어, 이번 기각은 헤드라인이 시사하는 것만큼 놀라운 결과가 아니다.

AI 이미지 창작자에게 미치는 실질적 영향

Grok, Stable Diffusion 래퍼, 또는 인페인팅 및 편집 기능을 갖춘 플랫폼 등 이미지 생성 도구를 사용하는 창작자들에게 이번 판결은 AI 이미지 출력에 대한 주(州) 차원의 콘텐츠 규제가 적어도 금지명령 단계에서는 법정에서 살아남을 수 있다는 신호다. 미네소타주만이 아니다. 유사한 법률이 다른 주에서도 통과되었거나 추진 중이며, xAI가 사용하는 법적 전략은 거의 확실히 다시 시험대에 오를 것이다.

보다 즉각적인 실질적 영향은 미네소타주에서 운영되며 이미지 편집 기능을 제공하는 플랫폼에 미친다. 법률 준수가 이제 의무화되었으므로, 제품 팀들은 지금 이 순간 어떤 기능을 지역 제한할지, 어떤 프롬프트를 차단할지, 그리고 잠재적 소송에 대비해 해당 결정을 어떻게 문서화할지를 결정하고 있다.

이는 AI 생성 이미지가 법적·규제적 마찰을 끌어당기는 더 넓은 패턴의 일부이기도 하다. Hugging Face는 상위 이미지 편집 모델 중 상당수가 최소한의 저항으로 비동의 누드 이미지를 생성한다는 보고서가 발표된 후 주목을 받았는데, 이는 미네소타주 법률이 겨냥하는 문제를 정확히 보여준 사례였다. Hugging Face 언드레스 모델 보고서는 문제의 규모를 수치로 제시했다. 플랫폼 상위 9개 이미지 편집 모델 중 7개가 그러한 출력물을 생성했다.

AI 이미지 생성을 중심으로 워크플로를 구축하는 창작자들에게 가장 명확한 시사점은, 합성 이미지를 둘러싼 법적 환경이 연방 법원이 근본적인 헌법적 쟁점을 해결하는 속도보다 빠르게 주(州) 차원에서 강화되고 있다는 것이다. xAI의 소송이 결국 주(州)가 할 수 있는 일을 제한하는 판결을 이끌어낼 수도 있지만, 그 결과가 나온다면 수년이 걸릴 가능성이 높다. 그동안 미네소타주 법률은 유효하다.