인스타그램의 인증 배지, 미아 고스 딥페이크 확산을 막지 못하다

배우 미아 고스의 AI 생성 이미지가 파란색 인증 체크마크를 단 계정 — 가짜였다 — 에서 인스타그램 전반으로 퍼졌다가 플랫폼이 삭제했으며, 그녀의 대리인은 이 사건을 「이해할 수 없는 일」이라고 표현했다.

핵심 요약

• miagoth_라는 이름의 인스타그램 계정 — 고스의 실제 계정이 아님 — 은 파란색 인증 배지를 달고, 배우가 도발적인 문구가 적힌 티셔츠를 입은 AI 생성 이미지를 게시했으며, 이는 그녀의 실제 이혼 신청 시점에 맞춰 올라왔다.
• 고스의 대리인은 The Verge에 해당 이미지가 조작된 것이라고 밝히며, 인스타그램이 이를 걸러내지 못한 것을 「이해할 수 없는 일」이라고 표현했다.
• 이미지의 사실성과 인증 배지의 존재, 이 두 가지 요소가 바이럴 확산을 이끌었으며 — 이는 AI 초상을 다루는 모든 창작자가 주목해야 할 조합이다.
• Meta Verified 구독을 통해 판매되는 인스타그램의 인증 시스템은 계정이 실제로 해당 인물에게 속하는지를 신뢰할 수 있는 수준으로 확인하지 못한다.
• 현재 인스타그램에는 업로드 시점에 이 이미지를 표시했을 플랫폼 차원의 AI 콘텐츠 라벨 의무 규정이 존재하지 않는다.

가짜 인증 배지가 딥페이크를 뉴스로 만든 방식

이 사건의 구조는 정확히 이해할 필요가 있다. 이달 초 미아 고스는 샤이아 라보프와의 이혼을 신청했다 — 실제로 광범위하게 보도된 사건이다. 이후 miagoth_ 계정은 고스가 굵은 검은 글씨로 「MY EX IS MY BIGGEST FAN」이라고 적힌 티셔츠를 입은 AI 생성 사진을 게시했다. 파란색 체크마크는 게시물에 즉각적인 신뢰성을 부여했다. 무심코 스크롤하던 사용자들, 심지어 일부 기자들도 이를 실제로 받아들였다. The Verge의 보도에 따르면, 그녀의 대리인은 인스타그램이 이를 확산되도록 허용했다는 점에서 상황을 이해할 수 없다고 표현했다.

인증 배지가 핵심이다. Meta Verified — 인스타그램의 유료 인증 등급 — 는 정부 발급 신분증을 제출한 구독자에게 체크마크를 부여하지만, 이는 계정이 표시하는 이름이나 외모가 아닌 제출자 본인의 신원만을 확인한다. 악의적인 행위자는 구독료를 내고 자신의 신원으로 인증한 뒤, 다른 사람을 사칭하는 계정을 운영할 수 있다. 사용자들이 「이 사람이 진짜 그녀」라고 읽는 배지는 실제로는 훨씬 좁은 의미만을 지닌다.

사실성 문제는 이제 창작자의 책임이다

실존 인물의 AI 이미지를 생성하는 모든 사람 — 편집 일러스트, 팬 아트, 풍자적 합성물 — 에게 이번 사건은 기술적으로 가능한 것과 법적·윤리적으로 정당화될 수 있는 것 사이에 명확한 선을 긋는다. 고스의 이미지는 실제로 유통될 만큼 충분히 설득력 있는 것으로 알려졌다. 그 수준의 포토리얼리즘은 이제 소비자용 이미지 생성기로도 구현 가능하며, 이것이 바로 맥락과 라벨링을 선택 사항이 아닌 필수로 만드는 역량이다.

어떤 목적으로든 실존 인물의 사실적인 이미지를 생성한다면, 현재 플랫폼 환경은 거의 아무런 안전망을 제공하지 않는다. 인스타그램에는 업로드 시 AI 공개 의무 규정이 없다. Google의 SynthID 감지기는 특정 생성기의 AI 워터마크를 식별할 수 있지만, 이미지가 생성 시점에 워터마크 처리된 경우에만 가능하며 — 대부분의 워크플로는 기본적으로 이를 강제하지 않는다. Google의 SynthID 감지기 사이트에 대한 이전 보도에서 여러 제공업체의 워터마크를 읽을 수 있게 됐다고 언급했지만, 창작자 측의 도입은 여전히 자발적이고 일관성이 없다.

실질적인 결론: 명백히 풍자적인 목적이라도 실명 개인의 포토리얼리스틱 이미지를 생성하는 워크플로를 운영한다면, 플랫폼에 의존하지 말고 캡션과 대체 텍스트에 해당 이미지를 명시적으로 라벨링해야 한다. 이는 플랫폼 기능이 아니라 프롬프트 단계와 내보내기 단계의 습관이다.

플랫폼 책임 공백이 지금 의미하는 것

고스 사건은 인스타그램이 눈에 띄게 실패한 스트레스 테스트다. 설득력 있는 AI 이미지, 인증 배지, 시의적절한 실제 뉴스의 조합은 드문 예외적 사례가 아니라 반복 가능한 공식이다. AI 이미지 품질이 계속 향상됨에 따라, 대부분의 시청자에게 생성된 사진과 실제 사진 사이의 시각적 차이는 제로에 수렴하고 있다.

이는 합법적인 창작자에게도 중요한 문제다. 이런 사건으로 인한 반발은 대개 무딘 플랫폼 정책을 낳는 경향이 있다: AI 생성 초상에 대한 광범위한 금지, 더 엄격한 업로드 필터, 또는 의도와 무관하게 모든 창작자에게 영향을 미치는 워터마킹 의무화 요건이 그것이다. AI 저작권 및 개인정보 보호 규정에 관한 의회의 지속적인 교착 상태는 플랫폼 차원의 집행 — 아무리 일관성이 없더라도 — 이 당분간 주요 견제 수단으로 남을 가능성이 높다는 것을 의미한다.

AI 이미지 생성을 탐색하고 있으며 현재 도구들이 사실성과 라벨링 측면에서 어디에 위치하는지 이해하고 싶다면, Charmloop 모델 카탈로그에서 기본적으로 워터마킹을 적용하는 생성기와 그렇지 않은 생성기를 확인할 수 있다 — 이 구분은 매주 덜 학문적인 문제가 되어가고 있다.