인스타그램의 AI 콘텐츠 라벨, 사람이 만든 사진에 오작동

인스타그램의 자동화된 'AI 콘텐츠' 라벨이 AI 도구로 생성하거나 편집한 적 없는 이미지에 적용되고 있다 — 아티스트의 오리지널 작품을 합성물로 공개 오분류하는 광범위한 오작동이다.

핵심 요약

• The Verge에 따르면, 인스타그램이 생성형 AI와 전혀 무관한 사람이 만든 사진에 자동으로 'AI 콘텐츠' 라벨을 붙이고 있다.
• 이 시스템은 실제 AI 생성 여부가 아닌 표준 편집 소프트웨어의 메타데이터에 반응하는 것으로 보인다.
• 인스타그램이 라벨을 적용한 후 크리에이터가 이의를 제기하거나 제거하기가 쉽지 않다.
• 오작동은 관객이 저작권을 인식하는 방식에 영향을 미친다 — 잘못된 라벨은 예술 커뮤니티에서 실질적인 명성 손상을 초래한다.
• 이 글을 작성하는 시점 기준으로 Meta는 공식적인 수정 방안이나 일정을 발표하지 않았다.

라벨이 곧 고발이 될 때

인스타그램의 AI 콘텐츠 태그의 목적은 명확하다: 이미지가 생성형 도구로 만들어졌다는 신호를 시청자에게 빠르게 전달하는 것이다. 그런데 현재 실행 방식은 전혀 그렇지 않다. 최근 몇 주 동안 사진작가와 일러스트레이터들이 카메라로 촬영하고, 손으로 그리고, 일반 소프트웨어로만 편집한 작품 — Lightroom 보정, Photoshop 리터칭, 디지털 사진의 일반적인 암실 작업 — 에 해당 라벨이 붙는 것을 목격했다고 보고하고 있다.

가장 유력한 원인은 메타데이터다. 일부 편집 애플리케이션이 이미지 파일에 태그를 삽입하는데, 인스타그램의 감지 시스템이 생성형 모델이 전혀 사용되지 않았음에도 이를 AI 관여의 증거로 읽는 것으로 보인다. 힐링 브러시 터치, 하늘 교체 도구, 심지어 일부 내보내기 프리셋만으로도 플래그가 트리거될 수 있다. 감지 시스템은 합성 픽셀의 존재가 아닌 현대 소프트웨어의 흔적을 읽고 있는 것이다.

크리에이터에게 실질적인 피해는 두 방향으로 발생한다. 첫째는 관객 문제다: 풍경 사진에서 라벨을 본 시청자는 그 장면이 촬영된 것이 아니라 생성된 것이라고 합리적으로 가정할 것이다. 진정성이 곧 자산인 커뮤니티 — 파인아트 사진, 다큐멘터리 작업, 손으로 그린 캐릭터 디자인 — 에서 그러한 가정은 수년에 걸쳐 쌓아온 신뢰를 무너뜨린다. 둘째는 플랫폼 문제다: 인스타그램의 라벨링 정책은 더 광범위한 콘텐츠 무결성 추진과 연결되어 있으며, 잘못 플래그된 크리에이터에게는 구제 수단이 거의 없다. 투명한 이의 제기 경로도, 특정 이미지가 태그된 이유에 대한 명확한 설명도 없다.

이는 인스타그램이 미공개 AI 프로필의 도달 범위를 제한하는 동시에 추진 중인 정책과 불편한 긴장 관계를 형성한다 — Charmloop가 인스타그램이 미공개 AI 페르소나 계정을 제한하고 공개 태그를 개명한 사안을 다룬 바 있다. 그 이니셔티브는 적어도 실제 AI 사용을 겨냥했다. 현재의 오작동은 정반대다: 인간의 저작권을 잘못 분류함으로써 처벌하고 있다.

정확한 감지가 실제로 요구하는 것

더 근본적인 문제는 AI냐 아니냐는 이분법적 라벨링이 2025년 이미지가 실제로 만들어지는 방식과 잘 맞지 않는다는 점이다. 한 인물 사진이 필름으로 촬영되고, 스캔되고, 한 단계에서 신경망 기반 도구로 색 보정된 후, 나머지는 손으로 마무리될 수 있다. 'AI 콘텐츠'는 어디서부터 시작되는가? Meta는 감지 기준을 공개하지 않았으며, 이로 인해 크리에이터들이 시스템을 예측 가능하게 탐색하는 것이 불가능하다.

인스타그램에서 오리지널 작품을 공유하는 누구에게나, 지금 당장의 실질적인 대응은 문서화다. 원본 파일, 내보내기 로그, 소프트웨어 버전 기록을 보관하라. 진짜 작품에 라벨이 붙는다면, 그 기록이 유일한 증거가 된다 — 플랫폼이 현재 이를 제출할 공식적인 창구를 제공하지 않더라도.

더 광범위한 감지 문제는 업계가 여전히 해결 중인 과제다. Pangram Labs CEO Max Spero가 주장했듯이, AI 생성 콘텐츠의 홍수는 일괄 감지 도구를 더욱 시급하면서도 더욱 오류에 취약하게 만들고 있다 — Charmloop가 AI 감지와 데드 인터넷 문제에 관한 기사에서 살펴본 긴장 관계다.

Meta의 시스템은 아마도 재보정될 것이다. 그때까지, 합성 이미지를 표시하기 위해 설계된 라벨이 대신 인간의 작품을 표시하고 있다 — 이는 그 자체로, 라벨이 전혀 없는 것보다 더 부식적인 결과다.