이 글은 AI의 도움을 받아 작성되었으며 Charmloop 편집팀이 검토했습니다.
이런 이야기의 바탕이 된 모델과 스타일을 둘러보세요. 무료 계정으로 갤러리를 바로 만나볼 수 있습니다.
Anthropic의 가장 진보된 AI 모델인 Fable 5와 Mythos 5의 갑작스러운 정부 명령 차단은 아마존 내부 사이버보안 연구와 아마존 CEO 앤디 재시와 백악관 간의 직접적인 소통에서 비롯되었다고 월스트리트 저널이 보도했습니다.
금요일 Anthropic이 두 모델에 대한 전 세계 접근을 완전히 차단하도록 강제한 상무부의 지시는 국가 보안 위험을 초래할 수 있는 잠재적 보안 취약점을 아마존이 발견한 것이 계기가 되었습니다. 이 연구는 관계자들이 "탈옥"이라고 부르는 방법, 즉 모델의 안전 가드레일을 우회하는 방법을 식별한 것으로 알려졌습니다.
이미지 생성을 위해 이러한 고급 모델에 의존했던 크리에이터들에게 즉각적인 영향은 명확합니다. 가장 정교한 AI 시스템 두 개가 이제 완전히 사용할 수 없게 되었습니다. Fable 5와 Mythos 5는 복잡한 시각적 추론과 미묘한 예술적 해석에 가장 뛰어난 모델 중 하나였기 때문에, 이들의 상실은 전문적인 워크플로우에 특히 중요한 의미를 갖습니다.
이번 차단은 직접적인 API 접근뿐만 아니라 이러한 모델을 기반으로 구축된 모든 상업적 애플리케이션에 영향을 미칩니다. Fable 5나 Mythos 5를 자신의 생성 워크플로우에 통합한 크리에이터들은 즉시 대안 모델로 전환해야 합니다.
Anthropic은 "좁은 범위의 잠재적 탈옥이 수억 명의 사람들에게 배포된 상업적 모델을 회수하는 이유가 되어서는 안 된다"고 밝히며 정부의 결정에 강한 반대 의사를 표명했습니다. AI 안전 연구와 상업적 배포 간의 이러한 긴장은 기술 회사, 정부 감독, 모델 가용성 간의 복잡한 관계를 부각시킵니다.
상당한 클라우드 인프라 파트너십과 정부 계약을 보유한 아마존의 개입은 또 다른 복잡성을 더합니다. 아마존의 연구는 Anthropic이 발견하지 못했거나 모델 철회를 정당화할 만큼 심각하다고 여기지 않았던 취약점을 식별한 것으로 보입니다.
이번 사건은 AI 크리에이터들에게 우려스러운 선례를 남깁니다. 한 거대 기술 기업의 내부 연구가 경쟁사 모델에 대한 정부 조치를 촉발할 수 있다면, AI 모델 접근의 안정성에 대한 의문이 제기됩니다. 특정 모델을 중심으로 사업을 구축하는 크리에이터들은 이제 장기적 가용성에 대한 추가적인 불확실성에 직면하게 됩니다.
이번 차단은 또한 고급 AI 기능이 시장에서 얼마나 빠르게 사라질 수 있는지를 보여줍니다. 더 이상 사용되지 않는 버전이 종종 사용 가능한 상태로 남아있는 전통적인 소프트웨어와 달리, AI 모델은 즉각적인 효력으로 완전히 차단될 수 있습니다.
Fable 5와 Mythos 5를 사용할 수 없게 된 상황에서, 크리에이터들은 자신의 모델 옵션을 평가하고 여러 제공업체에 걸쳐 툴킷을 다양화하는 것을 고려해야 합니다. 아무리 뛰어나더라도 단일 고급 모델에 의존하는 것은 이제 이전에 가정했던 것보다 더 위험해 보입니다.
이번 사건은 또한 AI 제공업체의 기업 관계와 정부 연결을 이해하는 것의 중요성을 강조합니다. 클라우드 제공업체이자 AI 연구자로서의 아마존의 이중 역할이 정부와의 유대와 결합되어, 내부 연구가 경쟁사의 제품 가용성에 직접적으로 영향을 미칠 수 있는 독특한 상황을 만들어냈습니다.
현재로서는 크리에이터들이 업계 경쟁사가 식별하고 정부 채널을 통해 확대된 보안 우려로 인해 가장 진보된 상업적 AI 모델조차 하룻밤 사이에 사라질 수 있는 환경에 적응해야 합니다.
