Sofia는 크리에이터의 창작을 좌우하는 자본, 정책, 플랫폼을 추적합니다.
이번 주 AI와 AI 아트의 핵심 소식을 메일로 받아 보세요. 엄선되고 간결하며 무료입니다.
무료입니다. 언제든 구독을 취소할 수 있어요.
컴패니언을 선택하고 이 소식에 대한 생각을 들어보세요
Anthropic CEO 다리오 아모데이는 TechCrunch에 AI에 대한 대중의 저항이 커지는 현상이 「근본적으로 신뢰의 위기」라고 말했다 — 이 프레이밍은 논쟁의 초점을 기술 역량에 대한 우려에서 AI 기업들이 어떻게 거버넌스를 실행하고, 소통하며, 도구를 사용하는 사람들을 보호하는지의 문제로 전환시킨다.
아모데이의 입장은 막연한 선의 호소보다 훨씬 정교하다. 그는 AI에 대한 대중의 회의론 — 입법적 반발과 학습 데이터를 둘러싼 크리에이터들의 항의를 포함 — 이 AI의 해악에 대한 합리적 평가에서 비롯된 것이 아니라, 기관과 기업들이 사람들에게 솔직하지 못했기 때문이라고 주장한다. 그 함의는 개발 속도를 늦추는 것이 아니라 더 나은 투명성이 핵심 해법이라는 것이다.
이는 계속해서 제품을 출시하고 싶은 프론티어 랩에게 편리한 주장이다. 그러나 공허한 주장은 아니다. 2023년 Stability AI가 첫 번째 대규모 라이선스 위기에 직면했을 때, 반발은 회사가 어떤 데이터를 사용했는지에 대한 회피적 태도로 인해 증폭되었다 — 불투명함 자체가 이슈가 된 것이다. Anthropic의 베팅은 출처 메타데이터와 공개 안전 공시 같은 도구를 통해 그러한 역학에 선제적으로 대응하는 것이 윤리적으로도 옳고 상업적으로도 합리적이라는 것이다.
Anthropic CEO 다리오 아모데이는 AI 반발을 기술 문제가 아닌 신뢰 문제로 규정했다.
Anthropics의 최근 결정 — Claude가 생성하는 모든 텍스트와 이미지에 C2PA 워터마크를 삽입하는 것 — 은 이 철학의 가장 명확한 운영적 표현이며, 크리에이터에게 가장 직접적인 영향을 미치는 조치다. 앞서 보도한 바와 같이, Anthropic의 C2PA 워터마킹 시스템은 생성 시점에 출력물에 태그를 달아 기계가 읽을 수 있는 관리 연속성을 만든다. 이는 EU AI Act의 투명성 요건을 충족하지만, 동시에 파이프라인에서 Claude를 사용하는 크리에이터들이 원하든 원하지 않든 출처 추적 기록을 생성하게 된다는 것을 의미한다.
프롬프트 작성, 이미지 설명 생성, 캡션 편집에 Claude를 활용하는 AI 아트 크리에이터들에게 워터마크 문제는 추상적인 것이 아니다. Charmloop의 이전 보도인 Claude의 C2PA 워터마크 작동 방식 — 그리고 무엇이 이를 제거할 수 있는지는 어떤 편집이 메타데이터 체인을 끊고 어떤 것은 그렇지 않은지를 이해하는 데 가장 실용적인 안내서로 남아 있다.
아모데이의 신뢰 논거가 워싱턴과 브뤼셀에서 지배적인 프레임으로 자리 잡는다면, 이는 투명성 인프라를 입증할 수 있는 기업에게 유리하게 작용한다. Anthropic은 워터마킹, 공개된 안전 연구, 공익 법인 구조를 갖추고 있다. 소규모 오픈 웨이트 제공업체와 이미지 생성 플랫폼은 그러한 자격 요건이 더 적다.
이 비대칭성은 워크플로우를 구축할 플랫폼을 선택하는 크리에이터들에게 중요하다. 구체적인 신뢰 메커니즘을 제시할 수 있는 플랫폼은 갑작스러운 규제 폐쇄나 광고주 이탈에 직면할 가능성이 낮다 — 이는 크리에이터의 전체 툴체인을 하룻밤 사이에 고립시킬 수 있는 종류의 플랫폼 리스크다. 명확한 출처와 안전 정책을 갖춘 제공업체의 도구를 선택하는 것은 점점 더 단순한 윤리적 선택이 아닌 워크플로우 안정성의 문제가 되고 있다.
구체적인 다음 시험대는 2026년 말 이전으로 예상되는 EU AI Act 첫 번째 준수 신고 물결에 EU 규제 당국이 어떻게 반응하는지다. 아모데이의 신뢰 우선 논거가 규제 당국의 호의로 이어질지, 아니면 로비 활동으로 일축될지에 따라 프론티어 랩들이 원하는 방식으로 운영할 수 있는 실질적인 여지가 결정될 것이다.
