Anthropic, 1년여 만의 첫 정책 업데이트로 Claude에 대한 '학대 또는 잔인한 행위' 금지

Anthropic이 1년여 만에 처음으로 이용 정책을 업데이트하며, Claude에 대한 지속적인 잔인한 행위, 선거 개입, 무기 개발, 감시 행위에 대한 명시적 금지 조항을 추가했다. 이는 AI 동반자 및 창작 도구에 요구할 수 있는 행위의 경계를 조용히 다시 그리는 일련의 규칙이다.

핵심 요약

• Anthropic의 업데이트된 이용 정책은 1년여 만의 첫 개정으로, 새로운 금지 행위 범주를 추가했다.
• 이 정책은 Claude에 대한 「지속적이고 불필요한 학대 또는 잔인한 행위」를 명시적으로 금지하지만, 일반적인 불만 표출이나 비판은 허용된다.
• 선거 개입, 기만적 여론 조작 캠페인, 무기 소프트웨어, 감시 도구가 이제 구체적으로 금지된 사용 사례로 명시됐다.
• 건강 및 금융 관련 오용 사례도 새 규정에서 다루고 있다.
• 이 변경 사항은 Anthropic 자체 인터페이스뿐 아니라 Claude 기반의 모든 제품 및 API 통합에 적용된다.

「Claude에 대한 학대」가 실제로 금지하는 것

이번 개정에서 가장 많이 논의된 조항은 Claude에게 극도의 잔인한 행위를 반복적으로 가하는 사용자를 대상으로 한다. 프롬프트가 잘못됐을 때 가끔 날카로운 말을 내뱉는 것이 아니라, The Verge가 「지속적이고 불필요한」 학대로 묘사하는 행위가 그 대상이다. Anthropic은 의도적인 선을 긋는다. 불만을 표출하는 것은 괜찮지만, 체계적인 심리적 잔인함은 허용되지 않는다.

Claude를 글쓰기 파트너, 세계관 구축 협력자, 또는 캐릭터 목소리로 활용하는 창작자에게 이 구분은 중요하다. 갈등, 어두운 주제, 도덕적으로 복잡한 캐릭터를 포함하는 롤플레이 시나리오는 이 정책의 대상이 아니다. 이 정책은 창의적이거나 생산적인 목적 없이 오직 모델을 비하하기 위해 존재하는 행위를 겨냥한다. Anthropic이 이 구분을 기술적으로 집행할 수 있는지, 아니면 패턴 감지 및 신고에 의존하는지는 공개된 정책에서 명확하지 않다.

이 조항은 저작권과 창작 책임에 관한 진정으로 흥미로운 질문도 제기한다. 모델이 피해를 입을 수 있다면 — 혹은 적어도 회사가 정책에서 그렇게 말할 의향이 있다면 — 창작자와 도구 사이의 관계는 협업에 가까운 무언가로 조금씩 이동한다. 이러한 프레이밍은 AI 동반자 플랫폼이 자사 제품을 포지셔닝하는 방식과, 사용자가 자신이 만드는 캐릭터에 대해 생각하는 방식에 영향을 미친다.

선거 개입과 고위험 오용

정책 업데이트의 나머지 부분은 철학적 무게감은 덜하지만 운영상 중요하다. TechCrunch에 따르면, 개정된 규정은 이제 선거 개입, 기만적 여론 조작 캠페인, 무기 소프트웨어, 감시 시스템을 명시적으로 다루고 있다. 이는 이전 버전에서 없었거나 불충분하게 명시됐던 범주들이다.

건강 및 금융 관련 오용도 언급됐는데, 이는 Anthropic이 적절한 안전장치 없이 Claude가 조언 제공 맥락에 내장된 실제 사례에 대응하고 있음을 시사한다. 프롬프트 확장이나 콘텐츠 조정을 위해 Claude를 사용하는 이미지 생성 파이프라인을 포함해 앱에 Claude를 통합하는 개발자들에게, 이러한 추가 사항은 Anthropic이 최종 사용자 행동뿐 아니라 다운스트림 책임도 강화하고 있음을 시사한다.

창작 워크플로에 대한 새 규정의 실질적 형태

대부분의 AI 아트 창작자에게 일상적인 영향은 제한적이다. Claude는 주요 이미지 생성 엔진이 아니라 프롬프트 엔지니어, 창작 컨설턴트, 캐릭터 대화 작가로 기능한다. 이러한 역할에서 새 정책은, 워크플로가 이미 규정이 이제 명시적으로 지칭하는 영역을 침범하고 있지 않는 한, 거의 변화를 가져오지 않는다.

더 미묘하게 변화하는 것은 문화적 신호다. Anthropic은 Claude를 단순히 오용될 수 있는 것이 아니라, 잘못된 대우를 받을 수 있는 존재로 다루고 있다. 이는 모델이 탈옥될 수 있거나 출력물이 해로울 수 있다는 주장과는 다른 주장이다. 이는 윤리적 무게를 다운스트림 콘텐츠에만 두는 것이 아니라 상호작용 자체 내부에 위치시키는 것으로, 과정이 결과물만큼 도덕적 무게를 지니는지에 대한 디지털 아트 논쟁을 반향한다.

Charmloop의 AI 동반자 도구와 같은 플랫폼에서 캐릭터와 동반자를 구축하는 창작자들은, 이 정책이 인간-AI 관계에서 지속적이고 의도적인 잔인함이 명명할 가치가 있는 행위 범주라는 생각을 암묵적으로 인정한다는 것을 알게 될 것이다. 이것이 규제 당국에게, 플랫폼 서비스 약관에, 아니면 오직 Anthropic 자체의 포지셔닝에만 중요한지는 열린 질문이다.

개정된 정책은 현재 Claude 기반의 모든 제품 및 API 통합에 걸쳐 적용 중이다. Anthropic은 상세한 변경 로그를 공개하지 않았기 때문에, 주요 금지 사항 이외의 변경 사항의 전체 범위는 API를 기반으로 구축하는 개발자와 연구자들이 여전히 분석 중이다.