Substack, AI로 작성된 뉴스레터 비율을 독자에게 공개하는 AI 감지 도구 출시

Substack이 뉴스레터 텍스트 중 AI가 작성한 비율을 추정하고 그 결과를 독자에게 공개하는 AI 감지 기능을 출시했다. 이번 조치로 플랫폼 내 AI 보조 작가 전원이 새로운 감시 대상에 놓이게 됐다.

핵심 요약

• Substack의 새 도구는 개별 뉴스레터에서 AI가 생성한 텍스트의 비율을 추정하고 해당 정보를 독자에게 노출한다.
• 이 기능은 YouTube, Patreon에 이어 플랫폼 차원에서 AI 콘텐츠 투명성을 강화하는 흐름을 반영한다.
• 공개 없이 AI 초안 작성 도구에 의존해 온 작가들은 감지 시스템이 자신의 글을 표시할 경우 평판 리스크에 직면하게 된다.
• AI 감지 도구는 확률적 판단에 기반하며 확정적이지 않다. 오탐(false positive) 문제는 업계 전반에 걸쳐 알려진 한계다.
• 이번 움직임은 더 넓은 추세를 반영한다. 플랫폼들이 AI 콘텐츠 신호를 모더레이션 백엔드뿐 아니라 독자 대면 인터페이스에도 적극 도입하고 있다.

TechCrunch에 따르면, 이 기능은 특정 호에서 AI가 작성한 비율을 백분율로 추정해 독자에게 제공한다. 이 수치는 글쓰기 패턴을 분석하는 감지 모델에서 도출된다. Substack은 어떤 기반 감지 기술을 사용하는지 공개하지 않았으며, AI 비율 점수가 높을 경우 수익화나 배포에 불이익을 줄 것인지도 발표하지 않았다.

이러한 불확실성은 중요한 문제다. 전면적인 AI 생성이 아닌 리서치 요약, 헤드라인 초안, 구조적 개요 작성에 AI 도구를 활용하는 작가들도 실제 작업 방식과 맞지 않는 수준으로 표시될 수 있다. AI 감지 도구에는 오탐 문제가 문서화되어 있다. 고도로 구조화되고 편집된 문장은 인간이 한 글자 한 글자 작성했더라도 기계가 생성한 것처럼 읽힐 수 있다.

플랫폼 투명성 경쟁

Substack의 이번 조치는 명확한 패턴에 부합한다. YouTube는 수익화 정책을 업데이트해 저품질 AI 생성 콘텐츠를 광고 수익에서 명시적으로 배제했고, Patreon은 Cloudflare와 협력해 AI 학습 스크레이퍼를 차단했다. 각각 다른 압박 지점을 겨냥한 조치다. YouTube는 수익을, Patreon은 데이터 파이프라인을, 그리고 Substack은 이제 독자 신뢰를 직접 타깃으로 삼고 있다.

독자 대면 방식이 가장 날카로운 부분이다. 수익화 불이익은 무대 뒤에서 일어나지만, 뉴스레터에 표시되는 AI 비율 레이블은 구독자가 첫 문장을 읽기도 전에 작가에 대한 인식을 형성한다. 목소리와 진정성으로 독자를 쌓아온 작가들에게 그 레이블은, 설령 부정확하더라도, 신뢰도 리스크가 된다.

AI 보조 작가에게 실질적으로 의미하는 것

AI 도구를 글쓰기 워크플로의 일부로 활용하는 크리에이터들에게 셈법이 달라진다. 공개하지 않고 가볍게 편집한 AI 초안에는 이제 가시적인 표시가 붙는다. AI를 구조적 뼈대로 활용하되 대폭 재작성하는 작가들도 여전히 표시될 수 있으며, 플랫폼 내에서 점수에 이의를 제기하거나 맥락을 설명할 수 있는 수단이 없다.

더 현명한 대응은 선제적 공개다. AI 보조 작업 과정을 바이라인 노트나 도입부 단락에서 공개적으로 설명하는 작가들은 감지 점수를 고발이 아닌 확인으로 재구성할 수 있다. 이러한 투명성 전략은 공개되지 않은 AI 사용에 회의적인 독자들에게도 더 좋은 반응을 얻는 경향이 있으며, 감지 도구가 표준 인프라로 자리 잡으면서 그 회의감은 더욱 빠르게 확산되고 있다.

Substack의 기능이 추천 또는 검색 알고리즘에 영향을 미치는지도 주목할 필요가 있다. 공식 정책 없이도 AI 비율 점수가 높으면 배포가 조용히 억제된다면, 작가들은 이를 알 방법이 없다. 플랫폼은 이 문제에 대해 공개적으로 답하지 않았다.

텍스트와 이미지 생성 모두에 걸쳐 작업하는 크리에이터들에게 이 역학은 낯설지 않다. 생산 속도를 높이는 도구는 출처도 더 가시적으로 만든다. AI 이미지 생성 분야는 수년간 워터마킹과 출처 논쟁을 겪어왔으며, 이제 텍스트가 그 뒤를 따르고 있다. 차이점은 이미지 워터마크는 최종 사용자에게 보이지 않는 경우가 많은 반면, Substack의 비율 레이블은 전면에 배치된다는 것이다. AI 사용을 백엔드 모더레이션 신호가 아닌 독자가 볼 수 있는 속성으로 만들겠다는 의도적인 선택이다.

Substack의 감지 기능이 실제로 얼마나 정확한지에 따라 이 기능이 신뢰를 구축할지, 아니면 불안만 양산할지가 결정될 것이다. 어느 쪽이든, 플랫폼에서 AI 보조 뉴스레터가 감지되지 않고 유통되던 시대는 사실상 끝났다.