AI 도구·모델
EU AI법 투명성 규정 시행: AI 이미지 창작자에게 공개 의무가 의미하는 것
Charmloop 편집팀· 편집·
유럽연합의 AI법 투명성 의무가 8월 2일부로 발효되어, 플랫폼은 AI 생성 콘텐츠에 라벨을 부착하고 사용자가 챗봇과 대화할 때 이를 공개해야 합니다 — AI 산업에 대규모로 적용되는 최초의 구속력 있는 규정입니다.
EU가 설계한 AI 콘텐츠 라벨 샘플로, 합성 미디어에 요구되는 공개 형식을 보여줍니다.
AI 아트 창작자에게 실질적인 마찰은 생성 단계가 아닌 배포 단계에서 발생합니다. Charmloop의 생성기와 같은 도구로 이미지를 만드는 행위 자체는 변함이 없습니다 — 의무는 해당 작업이 게시되거나 공유되는 플랫폼에 부과됩니다. 그러나 EU에서 접근 가능한 플랫폼이 여러분의 결과물을 호스팅한다면, 이제 자체 라벨링 시스템을 시행하거나 그 책임을 업로더에게 전가할 법적 유인이 생깁니다.
The Verge에 따르면, 규정은 EU 사용자에게 AI 시스템을 배포하는 기업을 구체적으로 겨냥하고 있으며 — 이 정의는 유럽 외에 본사를 둔 기업이라도 AI 생성 콘텐츠를 배포하는 소셜 플랫폼, 스톡 이미지 사이트, 콘텐츠 마켓플레이스를 포괄할 만큼 광범위합니다. 창작자들이 가장 주목해야 할 부분은 바로 이 역외 적용 범위입니다. 유럽 고객을 보유한 미국 기반 스톡 사이트도 적용 대상입니다.
딥페이크는 가장 엄격한 규제를 받습니다. 이미지, 영상, 오디오를 막론하고 실제 인물을 사실적으로 합성한 이미지는 AI 생성물임을 명시적으로 표시해야 합니다. 이 조항은 AI 초상화 및 AI 인플루언서 콘텐츠의 유통 방식을 가장 크게 바꿀 가능성이 높습니다. 과징금에 직면한 플랫폼들은 라벨 없는 업로드를 차단하거나 자동으로 표시하는 방향으로 신속히 움직일 것이기 때문입니다.
대부분의 플랫폼이 취할 실질적인 대응은 창작자의 자발적 공개에 의존하기보다 기술적 출처 신호 — 내장 메타데이터와 워터마크 — 에 의존하는 것입니다. Google의 SynthID 워터마킹 시스템과 콘텐츠 출처 및 진위 연합(C2PA) 메타데이터 표준이 이미 사용 중인 두 가지 주요 방식입니다. 기본적으로 C2PA 메타데이터를 내장하는 도구를 통해 작업을 생성하는 창작자는 참여 플랫폼에서 자동으로 규정을 준수하게 됩니다. 반면 메타데이터를 제거하는 도구나 워크플로를 사용하는 창작자는 더 어려운 상황에 처하게 됩니다.
이로 인해 워크플로 가치에 조용하지만 실질적인 차이가 생깁니다. 출처 데이터를 선택적 내보내기 설정이 아닌 모든 결과물에 기본으로 내장하는 생성기는 유럽 시장에 배포하는 누구에게나 의미 있게 더 유용해집니다. 특정 AI 모델 카탈로그에서 어떤 모델이 C2PA 출력을 기본 지원하는지 확인해 볼 가치가 있습니다. 이 기능이 곧 상업적으로 중요해질 것이기 때문입니다.
딥페이크 공개 요건은 특정 콘텐츠 카테고리에도 위축 효과를 미칩니다. 바로 당사자의 동의 없이 광고, 편집, 소셜 콘텐츠에 사용되는 AI 생성 초상입니다. 이전에는 모호한 합성 초상을 묵인하던 플랫폼들이 이제 더 엄격한 업로드 정책을 시행할 규제적 근거와 유인을 갖게 됩니다. AI 캐릭터 작업이나 가상 인물의 양식화된 초상을 만드는 창작자는 대체로 영향을 받지 않지만, 실제 인물의 사실적 초상을 다루는 창작자는 지금 당장 배포 파이프라인을 점검해야 합니다.
이번 투명성 의무는 AI법에서 가장 먼저 발효된 첫 번째 조항입니다. 생체인식 시스템 및 핵심 인프라 내 AI 등 고위험 조항들은 2026년과 2027년에 걸쳐 단계적으로 시행됩니다. 그러나 콘텐츠 라벨링 규정은 지금 당장 유효하며, 집행을 감독하는 유럽 AI 사무소는 유예 기간이 만료되기를 기다리지 않고 민원에 따라 조치를 취할 것임을 시사했습니다.
이러한 규정과 함께 AI 탐지 기술이 어떻게 발전하고 있는지 궁금한 창작자라면, Pangram의 최근 AI 이미지 탐지 모델 출시가 플랫폼들이 규정 준수를 자동화하기 위해 도입할 인프라의 전형적인 사례를 잘 보여줍니다 — 그리고 이는 AI 생성 콘텐츠가 노출될지 억제될지를 점점 더 결정하게 될 것입니다.
