팬픽 커뮤니티, AI 생성 픽 색출 나섰지만 — 인간 작가도 덩달아 신고당하는 중

팬픽 커뮤니티가 AO3 같은 플랫폼에서 AI 생성 스토리를 식별·제거하기 위한 조직적 움직임을 시작했다. 그러나 이 캠페인을 이끄는 탐지 방법이 오탐(false positive)을 양산하며 인간 작가들까지 그물에 걸리게 하고 있다.

핵심 요약

• 팬픽 커뮤니티, 특히 AO3에서 Claude, ChatGPT 및 기타 생성형 AI 도구로 작성된 스토리를 뿌리 뽑기 위한 조직적 움직임이 시작됐다.
• 사용 중인 AI 탐지 도구들은 연구자들 사이에서 신뢰도가 낮다는 평가를 받고 있다 — 특히 비영어권 원어민 화자나 독특한 문체를 가진 작가들에게서 흔히 나타나는 문체적 특성을 AI의 것으로 오인한다.
• 현재 이용 가능한 AI 탐지기 중 AI 생성 텍스트와 인간 텍스트를 높은 정확도로 신뢰성 있게 구별할 수 있는 것은 없으며, 오탐률은 모든 주요 도구에서 문서화된 문제다.
• 이 반발은 AI를 사용하든 그렇지 않든, 작가들이 공개적인 창작 공간에서 자신의 도구와 작업 방식을 이야기하는 방식을 바꾸고 있다.
• 이 갈등은 텍스트 기반 AI 사용에 특유한 긴장을 드러낸다. AI 생성 이미지와 달리, AI가 쓴 산문에는 신뢰할 수 있는 법의학적 흔적이 남지 않는다.

AI 텍스트 탐지가 이미지 탐지와 다른 이유

AI 아트 창작자들에게 탐지의 논리는 직관적으로 느껴진다 — 아티팩트, 특유의 업스케일링 패턴, 해부학적 오류, 메타데이터 모두 신호로 활용될 수 있다. 텍스트는 더 어렵다. 산문에는 EXIF 데이터에 해당하는 신뢰할 만한 등가물이 없으며, GPTZero나 Turnitin의 탐지기 같은 도구들이 사용하는 통계적 신호는 기껏해야 확률적일 뿐이다. 연구자들은 이러한 도구들이 인간이 쓴 텍스트 — 특히 비영어권 원어민 화자의 글이나 격식체 또는 반복적인 문장 구조를 선호하는 작가의 글 — 를 단속에 부적합한 수준의 비율로 오탐한다는 사실을 반복적으로 입증해 왔다.

그럼에도 커뮤니티들은 이 도구들을 결정적인 것처럼 사용하는 것을 멈추지 않았다. The Verge에 따르면, 현재의 활동 물결은 탐지기 점수만을 근거로 작품이 이의 제기되거나 삭제된 작가들에게 실질적인 결과를 초래했다.

집중 포화를 받는 특정 모델들

Claude와 ChatGPT는 커뮤니티의 공개 비판에서 가장 명시적으로 거론되는 두 도구로, 범용 글쓰기 보조 도구로서의 지배적 위치를 반영한다. 특히 Anthropic의 Claude는 논쟁의 중심이 됐다 — 부분적으로는 그 출력물이 경험 많은 독자들이 알아볼 수 있다고 주장하는 특유의 리듬을 가지고 있기 때문이고, 부분적으로는 일부 작가들이 초고 작성에 Claude를 사용한다고 공개적으로 밝혔기 때문이다. 그 인식이 진정한 패턴 매칭인지 확증 편향인지는 탐지 도구들이 답할 수 없는 열린 질문이다.

AI 도구를 부분적으로라도 사용하는 — 브레인스토밍, 편집 작업, 단일 장면 생성 등 — 모든 작가에게 실질적인 문제는 부분적 사용이 탐지기에 보이지 않는다는 점이다. 이 도구들은 개별 단락이 아닌 전체 문서를 채점하며, 90%가 인간이 쓴 문서도 모델이 가장 많은 가중치를 두는 구절에 따라 높은 AI 확률 점수를 받을 수 있다.

부수적 피해와 위축 효과

작가들에게 더 즉각적인 결과는 탐지가 아니라 자기 검열이다. 연구 요약이나 문법 검사를 포함해 작업 과정의 어느 부분에서든 AI 도구를 사용하는 작가들은 이제 그것을 공개할지, 그리고 공개 자체가 감시를 불러오는지를 저울질하고 있다. AI 도구를 전혀 사용하지 않지만 탐지기가 오탐하는 문체 — 밀도 높은 산문, 독특한 구문, 매우 일관된 문장 리듬 — 로 글을 쓰는 작가들은 커뮤니티의 의심을 반증하기 어렵다는 사실을 깨닫고 있다.

이는 AI 아트 공간에서 전개된 역학 관계를 반영한다. 그곳에서는 알려진 AI 출력물과의 스타일 유사성이 인간 아티스트에게 이의를 제기하는 데 사용됐다. 차이점은 이미지 커뮤니티에는 부분적 신뢰성을 가진 법의학적 도구가 적어도 일부 있다는 것이다. 텍스트 커뮤니티는 거의 전적으로 감각과 확률적 점수에 의존하고 있다.

앞으로의 창작 AI 사용에 대한 시사점

팬픽 갈등은 더 광범위한 패턴의 초기이자 유독 가시적인 사례다. 창작 커뮤니티들이 신뢰할 수 있는 탐지 기술이 그 규범을 뒷받침할 수 있는 속도보다 빠르게 AI 사용에 관한 자체 단속 규범을 설정하고 있는 것이다. 커뮤니티가 단속하고자 하는 것과 도구들이 실제로 증명할 수 있는 것 사이의 간극이 바로 오탐이 발생하는 지점이다.

팬픽뿐만 아니라 모든 창작 글쓰기 맥락에서 AI 도구를 사용하는 사람이라면 — 실질적인 교훈은 커뮤니티 기준이 기술적 현실과 무관하게 움직이고 있다는 것이다. 자신의 작업 방식에 대해 투명한 작가들은 그렇지 않은 작가들보다 의심을 덜 받을 수 있지만, 투명성 자체도 AI 사용이 곧 결격 사유로 취급되는 공간에서는 위험을 수반한다. 도구들은 그 긴장을 조만간 해소하지 못할 것이다.