Pangram CEO, AI 생성 콘텐츠가 인터넷을 '데드 인터넷 이론'에 위험할 정도로 가깝게 몰아가고 있다고 경고

Pangram Labs CEO Max Spero는 인터넷이 데드 인터넷 이론에 「위험할 정도로 가까워졌다」고 말한다. 데드 인터넷 이론이란 자동화된 AI 생성 콘텐츠가 인간이 만든 콘텐츠를 완전히 밀어내어 진정한 신호를 찾는 것이 거의 불가능해지는 시나리오다. AI 아트 창작자들에게 이 진단은 구체적이고 즉각적인 무게를 지닌다. 이 홍수를 만들어낸 도구들이 바로 그 작품이 받아들여지는 방식을 형성하는 도구들이기 때문이다.

핵심 요점

• Pangram Labs CEO Max Spero는 구직 지원서, 제품 리뷰, 보험 청구에 유입되는 AI 생성 텍스트와 이미지가 인터넷을 신뢰 위기로 몰아가고 있다고 공개적으로 경고했다.
• 데드 인터넷 이론은 자동화 및 AI 생성 콘텐츠가 결국 온라인 공간을 지배하여 진정한 인간 창작 콘텐츠를 식별할 수 없게 되는 상황을 가정한다.
• Spero에 따르면 AI 탐지는 단순한 진짜-가짜 이분법 문제가 아니다. 확률적 신호와 인간-AI 혼합 콘텐츠는 명확한 분류를 신뢰하기 어렵게 만든다.
• 플랫폼과 보험사들은 현재 탐지 도구를 적극적으로 찾고 있으며, 이는 AI 생성 이미지를 표시하려는 상업적 유인을 만들어내고 전문적 맥락에서 AI 아트가 받아들여지는 방식에 영향을 미칠 수 있다.
• AI 생성 콘텐츠와 인간 창작 콘텐츠 사이의 신뢰 격차는 단순한 사회적 문제가 아니라 플랫폼의 구조적 문제로 자리잡고 있다.

이분법적 탐지가 실패하는 이유 — 그리고 이미지 창작자에게 의미하는 것

Spero의 핵심 주장은 두 차례의 TechCrunch 출연에서 제시된 것으로, AI 탐지는 단순한 이분법이 아니라는 것이다. 오늘날 대부분의 콘텐츠는 인간의 의도와 기계의 실행이 혼합된 형태이며, 이는 AI 아트 창작자들이 작업하는 방식과 정확히 일치한다. 사람이 작성하고 반복적으로 다듬은 프롬프트를 디퓨전 모델이 렌더링한 결과물은 현재의 분류기가 제대로 처리하지 못하는 회색 지대에 놓인다. 이 모호함은 탐지 문제의 버그가 아니라 문제의 본질 그 자체다.

실질적인 결과는 탐지 파이프라인을 구축하는 플랫폼이 오탐(false positive)을 생성한다는 것이다. 스톡 라이브러리에 제출된 AI 보조 일러스트레이션, 제품 사진에 합성된 배경, 포트폴리오의 AI 업스케일 이미지 모두 보험 사기나 가짜 리뷰를 겨냥해 설계된 플래그를 촉발할 수 있다. AI 이미지 생성을 전문 도구로 사용하는 창작자들은 이러한 플랫폼이 설정하는 임계값의 하류에 위치한다. 그리고 지금 그 임계값은 예술가가 아닌 악의적 행위자를 기준으로 보정되고 있다.

크리에이티브 플랫폼에 걸린 데드 인터넷의 판돈

데드 인터넷이라는 프레임은 철학적 논의를 넘어선다. Spero가 인터넷이 그 상태에 「위험할 정도로 가까워졌다」고 말할 때, 그는 플랫폼이 콘텐츠에 신뢰를 부여하는 방식의 구조적 변화를 묘사하고 있다. 신뢰 점수는 점점 더 배포를 결정한다. 소셜 피드는 이미 저품질 또는 합성으로 표시된 콘텐츠를 억제하고 있다. 이 억제 논리가 세밀한 구분 없이 AI 아트로 확장된다면, 유기적 도달을 통해 팬층을 구축하는 창작자들은 자신의 작품 품질과 무관한 알고리즘의 역풍에 직면하게 된다.

이것은 가상의 시나리오가 아니다. 올해 초 Instagram이 공개되지 않은 AI 프로필의 도달 범위를 제한한 조치 — Charmloop의 플랫폼 새 AI 생성 프로필 라벨 관련 보도에서 다룬 바 있다 — 는 주요 플랫폼들이 이미 AI 콘텐츠 정책에 배포 패널티를 내장하고 있음을 보여준다. 문제는 그 패널티가 어디서 멈추느냐다.

탐지 시장을 형성하는 상업적 유인

Pangram은 중립적인 관찰자가 아니다. 이 회사는 탐지 서비스를 판매하며, 데드 인터넷 서사가 무서울수록 영업 논리는 강해진다. 그렇다고 Spero가 틀린 것은 아니다. AI 생성 보험 청구와 가짜 리뷰는 실재하고 문서화된 문제다. 하지만 구축되고 있는 탐지 도구들이 대부분의 AI 아트를 정의하는 섬세하고 동의 기반의 창의성이 아닌, 가장 위험도가 높은 사기 사례에 최적화되어 있다는 의미이기도 하다.

2023년 Stability AI가 학습 데이터 출처와 관련해 초기 압박에 직면했을 때, 그 반발은 이후 모든 이미지 모델이 데이터셋 출처를 공개하는 방식을 형성했다. 유사한 역학이 탐지를 둘러싸고 형성되고 있다. Pangram 같은 스타트업과 그들의 API에 비용을 지불하는 기업 고객들이 지금 설정하는 기준이, 창작자들이 작품을 배포하는 플랫폼 전반에서 무엇이 「진정한」 콘텐츠로 인정받는지를 결정할 것이다.

자신의 도구와 결과물이 어떻게 분류될지 이해하고자 하는 창작자들은 탐지기가 실제로 찾는 신호 — 디퓨전 아티팩트, 메타데이터 패턴, 생성 이미지의 통계적 규칙성 — 에 익숙해지는 것부터 시작할 수 있다. 프롬프팅과 모델 선택에 관한 Charmloop 가이드는 그러한 기술적 기반을 쌓을 수 있는 출발점이다.

다음 구체적인 압박 지점은 규제다. EU의 AI 법(AI Act)은 2026년 8월부터 특정 맥락에서 AI 생성 콘텐츠의 공개를 의무화하며, 플랫폼에 대규모 탐지 또는 공개를 운영화할 법적 기한을 부여한다. 플랫폼들이 「AI 생성」을 이분법으로 해석하느냐 스펙트럼으로 해석하느냐에 따라, 창작자들이 오늘 사용하는 도구가 내일 법적 책임이 될지 여부가 결정될 것이다.