출처
나만의 작품으로
이 이야기에서 영감을 받으셨나요? 그 아이디어를 단 몇 초 만에 나만의 AI 아트로 만들어 보세요. 무료로 시작할 수 있고, 카드 등록도 필요 없습니다.
무료로 만들기 시작
Elias는 헤드라인 뒤의 연구를 쉬운 언어로 풀어냅니다.
이 이야기에서 영감을 받으셨나요? 그 아이디어를 단 몇 초 만에 나만의 AI 아트로 만들어 보세요. 무료로 시작할 수 있고, 카드 등록도 필요 없습니다.
무료로 만들기 시작컴패니언을 선택하고 이 소식에 대한 생각을 들어보세요

OpenAI는 아동 성 착취물(CSAM)을 식별하도록 특별히 설계된 새로운 이미지 분류기를 출시했습니다. 특히 AI 생성 콘텐츠도 포함하여 법 집행 기관 및 아동 보호 기관이 증가하는 의심스러운 이미지의 양을 걸러내는 데 도움을 줍니다. 이 도구는 실행 가능한 불법 자료를 더 정확하게 표시하고, 경고를 유발할 수 있는 비학대적이거나 합성된 콘텐츠와 구별함으로써 인간 분석가의 부담을 줄이는 것을 목표로 합니다.
이러한 발전은 생성형 AI의 오용을 해결하기 위해 배포되는 고급 필터링 메커니즘을 강조함으로써 AI 아트 제작자에게 직접적인 영향을 미칩니다. 모델의 기능이 향상됨에 따라 유해한 목적으로 배포될 위험이 증가하므로 강력한 탐지가 필요합니다. 제작자의 경우 이는 윤리적인 생성 관행에 대한 지속적인 강조와 플랫폼이 실제 출처에서든 합성 생성에서든 불법 콘텐츠에 대한 대응책을 적극적으로 개발하고 있다는 이해를 의미합니다. 이 분류기는 비학대적인 AI 생성 콘텐츠가 실수로 플래그 지정될 가능성을 최소화하도록 설계되었으며, 이는 다양한 테마를 탐색하는 아티스트에게 중요합니다.
새로운 분류기는 단순한 키워드 또는 패턴 일치를 넘어 이미지의 시각적 특성을 분석하는 콘텐츠 조정 기술의 발전을 나타냅니다. OpenAI는 이 도구가 AI 모델에 의해 합성적으로 렌더링된 경우에도 CSAM을 나타내는 특징을 식별할 수 있다고 말합니다. 이는 AI 이미지 생성 도구가 더 접근하기 쉬워지면서 오용 가능성에 대한 우려가 제기되는 상황에서 특히 관련성이 높습니다. AI 생성 불법 콘텐츠를 식별하는 분류기의 능력은 그러한 자료의 확산을 방지하는 데 중요한 단계이며, 기존 필터를 우회하려는 정교한 시도에 대한 방어 계층을 제공합니다.
기존 콘텐츠 조정은 방대한 데이터 양과 이미지의 뉘앙스로 인해 어려움을 겪는 경우가 많으며, 때로는 수사관의 자원을 전환시키는 오탐으로 이어지기도 합니다. OpenAI는 AI 기반 탐지를 통합하여 보다 정확한 필터를 제공함으로써 인간 전문가가 검증된 사례에 집중할 수 있도록 하는 것을 목표로 합니다. 이러한 정확성은 AI 아트 제작자에게 매우 중요합니다. 이는 탐지 시스템이 악의적인 사용과 합법적인 예술적 표현을 더 안정적으로 구별할 수 있는 미래를 시사하기 때문입니다. 비록 그 표현이 불법적인 영역을 넘어서지 않고 민감하거나 도전적인 주제를 다루더라도 말입니다.
이미지 분류 외에도 OpenAI는 대화형 AI인 ChatGPT 내에서 더 엄격한 정책을 시행하고 있습니다. CSAM 관련 콘텐츠에 접근하거나 생성하려는 사용자는 이제 즉각적인 24시간 정지 조치를 받게 되며, 이는 그러한 활동에 대한 명확한 경고 역할을 합니다. 이 조치는 OpenAI가 자사 도구가 불법적인 목적으로 활용되는 것을 방지하려는 노력을 강조하고 AI 모델과의 상호 작용에 대한 윤리적 경계를 강화합니다. 이 특정 정책은 주로 텍스트 기반 상호 작용에 영향을 미치지만, 모든 제품에서 콘텐츠 안전을 시행하려는 회사 전체의 광범위한 노력을 나타냅니다.
생성형 AI를 사용하는 사람들에게 이 정책은 플랫폼 지침을 이해하고 준수하는 것의 중요성을 강화합니다. Charmloop에서 사용할 수 있는 것을 포함하여 대부분의 AI 이미지 생성기는 불법 및 학대 자료에 대한 엄격한 콘텐츠 정책을 가지고 있습니다. 여기에는 명시적인 CSAM뿐만 아니라 혐오 발언, 폭력 또는 차별을 조장하는 콘텐츠도 포함됩니다. 제작자는 허용 가능한 매개변수 내에서 작업이 유지되고 계정 정지를 피하기 위해 이러한 지침을 숙지해야 합니다. AI 모델 및 관련 정책에 대한 정기적인 업데이트는 제작자가 이러한 강력한 도구를 효과적이고 책임감 있게 계속 사용하기 위해 진화하는 안전 조치에 대해 계속 정보를 얻어야 함을 의미합니다. 생성 페이지에서 안전한 지침 내에서 다양한 창의적 가능성을 탐색하거나 카탈로그에서 다양한 스타일을 찾아볼 수 있습니다.