Iris는 AI 아트와 문화가 만나는 지점을 다룹니다 — 스타일, 작가성, 그리고 의미 있는 이미지들.
이 이야기에서 영감을 받으셨나요? 그 아이디어를 단 몇 초 만에 나만의 AI 아트로 만들어 보세요. 무료로 시작할 수 있고, 카드 등록도 필요 없습니다.
무료로 만들기 시작컴패니언을 선택하고 이 소식에 대한 생각을 들어보세요
Anthropic이 새로 제출한 IPO 투자설명서는 "헌법적 AI" 전략에 대한 중요한 세부 정보를 공개했습니다. 이는 안전 중심 접근 방식으로, 이미지 생성을 포함한 AI 모델이 개발되는 방식과 크리에이터가 그 결과물과 상호 작용하는 방식을 근본적으로 재편할 수 있습니다.
본질적으로 헌법적 AI는 미리 정의된 원칙 세트를 기반으로 모델이 자체 출력을 평가하고 수정하도록 훈련시키는 것을 포함합니다. 모든 중재 결정에 대한 인간의 피드백 대신, AI 자체가 규칙의 '헌법'을 적용하는 방법을 배웁니다. 이는 모델이 본질적으로 더 안전하도록 설계되어, 이러한 원칙을 위반하는 응답이 사용자에게 도달하기 전에 필터링됨을 의미합니다. 예를 들어, 이미지 생성 모델에 대한 프롬프트가 잠재적으로 유해한 콘텐츠로 이어질 수 있는 경우, 헌법적으로 훈련된 모델은 내부 지침에 따라 생성을 재구성하거나 거부하려고 시도합니다.
MIT Technology Review의 보도에 따르면, "헌법" 자체는 아이작 아시모프의 로봇 3원칙 수정 버전과 UN 인권 선언과 같은 출처에서 영감을 얻은 일련의 계단식 규칙입니다. 이러한 계층화된 접근 방식은 AI가 허용되거나 허용되지 않는 출력이 무엇인지에 대한 미묘한 이해를 개발할 수 있도록 합니다. AI 아트를 사용하는 크리에이터에게 이는 편향되거나 노골적이거나 기타 문제가 있는 이미지를 생성할 가능성이 적은 모델로 이어질 수 있으며, 윤리적 필터링의 부담을 최종 사용자에서 모델의 아키텍처로 옮깁니다.
"이 회사는 인간의 피드백이 아닌, 아이작 아시모프의 로봇 3원칙 수정 버전과 UN 인권 선언을 포함한 일련의 계단식 원칙으로 AI 모델을 훈련시킵니다."
— The MIT Technology Review
이러한 자체 수정 메커니즘은 프롬프트에 직접적인 영향을 미칩니다. 크리에이터는 매우 모호하거나 윤리적으로 회색 지대에 있는 프롬프트가 예측할 수 없거나 유해한 이미지를 생성하는 대신, 더 일관되고 안전한 결과를 산출하거나 아예 거부될 수 있음을 발견할 수 있습니다. 이는 안전이 종종 후처리 필터나 사용자 보고에 의존하는 많은 현재 모델에서보다 AI의 내부 윤리적 나침반이 최종 출력에서 더 중요한 요소가 되는 미래를 시사합니다. 이는 윤리적 범위 내에서 이미지 생성 프로세스를 더 예측 가능하게 만들어, 신뢰할 수 있고 브랜드에 안전한 콘텐츠가 필요한 전문 아티스트 및 디자이너의 워크플로우를 간소화할 수 있습니다.
안전에 대한 강조가 가장 중요하지만, 헌법적 AI 접근 방식은 AI 생성 예술의 미학적 및 주제적 범위에도 영향을 미칠 수 있습니다. 이러한 엄격한 지침에 따라 훈련된 모델은 본질적으로 더 전통적이거나 '안전한' 시각적 해석으로 기울어져, 아방가르드하거나 도발적이거나 경계를 허무는 예술적 개념의 탐구를 제한할 수 있습니다. 초기 AI 모델의 무제한적이고 종종 혼란스러운 자유에 익숙한 아티스트는 이러한 새로운 윤리적 프레임워크에 맞춰 프롬프트 전략을 조정해야 할 수도 있습니다. 이는 신뢰성과 안전성 증가 대 잠재적으로 제한된 창의적 영역 사이의 절충점입니다.
최대한의 창의적 자유를 중시하는 사람들에게 이 개발은 AI 모델 철학의 지속적인 차이를 강조합니다. 일부 모델은 원시 출력과 사용자 제어를 우선시하는 반면, Anthropic과 같은 모델은 안전을 핵심에 더 깊이 내장합니다. 크리에이터는 이미지 품질이나 속도뿐만 아니라 개발을 지배하는 근본적인 윤리적 및 창의적 철학에 따라 도구를 선택해야 할 필요성이 점점 커질 것입니다. 이는 다양한 예술적 요구와 윤리적 고려 사항을 충족하는 다양한 모델에 대한 더 큰 수요로 이어질 수 있으며, 이는 다양한 예술 운동이 서로 다른 미학적 가치를 우선시하는 방식과 유사합니다. 이러한 차이점을 이해하는 것은 AI 이미지 생성 기술을 마스터하려는 모든 사람에게 중요합니다. AI 환경이 발전함에 따라 모델 선택은 이러한 근본적인 문제에 대한 크리에이터의 입장을 점점 더 반영할 것입니다.
Anthropic의 이러한 움직임은 사후 고려 사항이 아닌, 처음부터 책임감 있는 AI 관행을 내장하려는 업계의 증가하는 추세를 강조합니다. 이는 AI 모델이 강력할 뿐만 아니라 도덕적 나침반을 가지고 오용을 방지하고 기술에 대한 신뢰를 조성하기 위해 특별히 제작되는 미래를 예고합니다. 이러한 변화는 AI 개발에 대한 새로운 표준을 설정하고, 다른 공급업체가 모델 훈련 및 콘텐츠 중재에 접근하는 방식에 영향을 미치며, 궁극적으로 앞으로 몇 년 동안 AI가 생성하는 시각 문화를 형성할 수 있습니다.
