출처
나만의 작품으로
이 이야기에서 영감을 받으셨나요? 그 아이디어를 단 몇 초 만에 나만의 AI 아트로 만들어 보세요. 무료로 시작할 수 있고, 카드 등록도 필요 없습니다.
무료로 만들기 시작이 소식에 대해 이야기 나누기
컴패니언을 선택하고 이 소식에 대한 생각을 들어보세요

Maya는 새 모델이 나올 때마다 직접 벤치마크합니다 — 숫자가 먼저, 과장은 없습니다.
이 이야기에서 영감을 받으셨나요? 그 아이디어를 단 몇 초 만에 나만의 AI 아트로 만들어 보세요. 무료로 시작할 수 있고, 카드 등록도 필요 없습니다.
무료로 만들기 시작컴패니언을 선택하고 이 소식에 대한 생각을 들어보세요
조지타운 대학교 안보 및 신기술 센터(CSET) 전무이사이자 전 OpenAI 이사인 헬렌 토너는 대중과 AI 개발자가 AI 기업 CEO를 맹목적으로 신뢰해서는 안 된다고 공개적으로 주장했습니다. 그녀의 발언은 2023년 11월 샘 알트먼을 OpenAI CEO 자리에서 해임하려는 시도에 직접 관여한 후 나온 것으로, 그녀는 최근 The Verge와의 인터뷰에서 이 사건에 대해 논의했습니다.
인터뷰에서 토너는 핵심 문제가 특정 CEO가 아니라 급속한 상업화와 AI 연구 조직의 근본적인 안전 임무 사이의 내재된 갈등이라고 강조했습니다. 이 관점은 모델과 도구를 위해 이러한 회사에 의존하는 AI 아티스트와 개발자에게 중요합니다. 이는 접근성, 가격 또는 모델 가용성에 영향을 미칠 수 있는 잠재적인 불안정성과 기업 우선순위의 변화를 시사하기 때문입니다.
토너는 강력한 AI 시스템을 개발하는 조직에는 단기적인 상업적 이득이나 개별 리더십 야망보다 장기적인 안전과 공공의 이익을 우선시할 수 있는 강력하고 독립적인 거버넌스 구조가 필요하다고 강조했습니다. 이러한 입장은 개발자들이 주요 AI 연구소의 새로운 모델과 기능을 건강한 회의론으로 접근하여, 근본적인 기업 전략이 빠르게 변할 수 있음을 이해해야 함을 시사합니다. 예를 들어, 오늘날 이미지 생성을 위해 무료로 제공되는 모델이 상업적 압력에 따라 내일 유료 기능이 될 수도 있고, 경영진의 결정에 따라 안전 장치가 강화되거나 완화될 수도 있습니다.
"저는 우리가 이러한 회사들의 CEO들이 스스로를 규제하도록 그냥 믿어서는 안 된다는 것이 매우 중요하다고 생각합니다."
— 헬렌 토너
이러한 관점은 오픈 소스 모델과 폐쇄 소스 모델에 대한 AI 커뮤니티 내의 광범위한 논쟁에도 영향을 미칩니다. 투명성이 낮고 상업적 인센티브가 강한 회사들은 모델 가중치를 공유하거나 광범위한 외부 감사를 허용하는 데 덜 적극적일 수 있으며, 이는 플랫폼을 기반으로 구축하는 사람들의 창의적 자유와 기술적 이해를 제한할 수 있습니다. 개발자에게 이는 이미지 생성 워크플로우를 위해 선택하는 플랫폼의 장기적인 생존 가능성과 윤리적 입장을 신중하게 평가해야 함을 의미합니다.
OpenAI에서의 토너의 경험은 선도적인 AI 조직 내의 변동성을 강조합니다. 이러한 불안정성은 개발자에게 API 접근 변경, 콘텐츠 정책 변경 또는 예상치 못한 모델 폐기와 같은 다양한 방식으로 나타날 수 있습니다. 예를 들어, 리더십 변경이나 새로운 상업적 지시로 인해 모델의 기본 가치나 기능이 갑자기 변경되면 AI 아티스트는 프롬프트 기법을 크게 조정하거나 완전히 다른 모델로 전환해야 할 수도 있습니다.
더 강력한 거버넌스 요구는 또한 더 투명한 모델 개발 및 배포를 추진함을 의미합니다. 성공한다면 이는 모델 편향, 한계 및 안전 기능에 대한 더 나은 문서화를 가져와 개발자가 선택한 AI 도구가 어떻게 작동하는지, 어떤 윤리적 고려 사항이 있을 수 있는지에 대한 더 명확한 이해를 제공할 수 있습니다. 일상적인 프롬프트에 대한 즉각적인 영향은 간접적으로 보일 수 있지만, 이러한 고수준 논의는 궁극적으로 사용 가능한 AI 도구의 환경과 개발자가 도구에 접근할 수 있는 조건을 형성합니다. 강력한 AI 시스템의 제어 및 방향에 대한 지속적인 논쟁은 AI 아티스트가 작업에 의존하는 플랫폼의 안정성과 신뢰성에 계속 영향을 미칠 것입니다. 견고한 워크플로우를 구축하려는 개발자에게는 여러 플랫폼에 걸쳐 의존도를 분산하거나 llama.cpp와 같은 로컬 AI 솔루션을 탐색하는 것이 기업 변화에 대한 더 큰 탄력성을 제공할 수 있습니다.