트럼프의 AI 리브랜딩 추진과 비구속적 안전 협약으로는 AI의 신뢰성 문제를 해결할 수 없다

트럼프 행정부는 인공지능을 「초지능」의 약속을 중심으로 적극적으로 리브랜딩하고 있으며, 업계의 주요 안전 약속들은 완전히 자발적인 상태로 남아있다 — 이러한 조합은 AI 아트 창작자들을 확고한 기반 없는 규제 회색지대에서 운영하도록 만들고 있다.

주요 요점

• 트럼프 행정부는 TechCrunch에 따르면 수사적이고 정치적인 리브랜딩 노력으로서 「초지능」이라는 용어를 중심으로 AI 정책을 구성했다.
• 기존 업계 AI 안전 협약들은 비구속적이며, 이는 어떤 플랫폼, 모델 제공업체, 또는 이미지 생성 서비스도 이를 따를 법적 의무가 없다는 의미이다.
• 비구속적 안전 언어는 이미지 모델이 어떻게 훈련되는지, 어떤 데이터를 사용하는지, 또는 어떤 출력을 허용하는지를 제한하지 않으며 — 이 모든 것이 창작자들에게 직접적으로 영향을 미친다.
• AI의 마케팅된 약속과 실제 거버넌스 사이의 신뢰성 격차는 창작자들을 그들이 의존하는 플랫폼의 갑작스러운 정책 변화에 노출시킨다.
• 강제 가능한 표준 없이는 모델 제공업체들이 콘텐츠 정책, 훈련 데이터 관행, 또는 출력 제한을 일방적으로 그리고 예고 없이 변경할 수 있다.

초지능의 수사학과 그것이 덮고 있는 것

AI를 「초지능적」이라고 부르는 것은 기술적인 행위만큼이나 정치적인 행위이다. 이 단어는 완성된, 권위 있는 기술을 연상시킨다 — 도착했고, 작동하며, 선도하는 무언가를. 이미지 생성 도구에 특히 이러한 프레이밍은 제품을 돋보이게 한다. 잘 프롬프트된 Flux나 Stable Diffusion 출력과 진정으로 일관되고, 편집 가능하며, 제어 가능한 창작 도구 사이의 격차는 여전히 크다. 카테고리를 「초지능적」으로 브랜딩하는 것은 그 격차를 줄이는 데는 아무것도 하지 않으면서 대중의 기대를 높인다.

TechCrunch는 보고한다 행정부의 리브랜딩 노력이 안전 협약 논의와 함께 진행되었지만 — 강제 메커니즘이 없는 협약이었다고. 그러한 짝은 우연이 아니다. 자발적 서약은 정부가 거버넌스를 주장하는 동시에 업계가 완전한 운영 자유도를 유지할 수 있게 한다. 창작자들에게 이는 그들이 이미지 생성을 위해 의존하는 플랫폼들이 자체 규제를 한다는 의미이며, 자체 규제는 경쟁 압력에 따라 변하는 경향이 있다.

비구속적이 창작 워크플로우에 불안정을 의미하는 이유

비구속적 안전 언어의 실질적 결과는 플랫폼 변동성이다. 법적 기준이 없을 때 콘텐츠 정책은 비즈니스 결정이다. 경쟁 압력이나 뉴스 사이클에 대응하여 이미지 생성 필터를 조용히 강화하거나 — 또는 완화하는 — 모델 제공업체는 현재 프레임워크 내에서 완전히 행동하고 있다. 특정 플랫폼의 기능을 중심으로 프롬프팅 워크플로우, 캐릭터 라이브러리, 또는 클라이언트 파이프라인을 구축한 창작자들은 그러한 기능들이 하룻밤 사이에 수정되는 것을 발견할 수 있다.

이는 이미지 생성 공간에서 한 번 이상 이미 일어났다: 경고 없이 추가된 스타일 제한, 블랙리스트된 프롬프트 용어, 수정된 훈련 데이터 공개. 이러한 변경 사항들은 안전 약속들이 그것을 요구하지 않기 때문에 규제 승인을 필요로 하지 않았다. 「초지능」으로의 리브랜딩은 그 계산을 바꾸지 않는다 — 단지 마케팅을 더 시끄럽게 만들 뿐이다.

이 역학은 시각 문화에서 친숙한 무언가를 반영한다: 스톡 사진의 초기 시절, 무엇이 라이선스될 수 있는지, 누가 기본 이미지 권리를 소유하는지, 그리고 무엇이 허용 가능한 사용을 구성하는지에 대한 규칙들이 업계가 법보다 빠르게 확장되면서 지속적으로 변했던 때. 한 플랫폼의 조건으로 비즈니스를 구축한 사진작가들은 그 조건들이 바뀔 때 재구조화해야 했다. AI 아트 창작자들은 지금 스톡 사진이 결국 받은 규제적 해결책도 없이 유사한 위치에 있다.

"'초지능'과 비구속적 안전 협약이 AI의 이미지 문제를 해결할 수 있을까?"

— TechCrunch

창작자들이 이 정보로 실제로 할 수 있는 것

솔직한 답은: 즉시적으로는 많지 않다. 하지만 거버넌스 구조를 이해하는 것 — 자발적 서약, 강제 없음, 수사적 리브랜딩 — 은 플랫폼 위험을 어떻게 가중할지에 대한 유용한 정보 자체이다. 단일 플랫폼의 현재 기능 세트를 영구적인 것으로 취급하는 창작자들은 불필요한 노출을 감수하고 있다. 이식 가능한 프롬프트 라이브러리 유지, 개방형 형식으로 캐릭터와 스타일 참조 내보내기, 그리고 카탈로그의 모델 업데이트를 따라가는 것은 비구속적 거버넌스가 생산하는 불안정성에 대한 실용적 헤지이다.

이 논쟁은 또한 AI 아트 저작권의 장기적 질문에도 중요하다. 안전과 콘텐츠 표준이 책임 있는 과정을 통해서가 아니라 플랫폼에 의해 일방적으로 설정된다면, 이미지 생성 아티스트들에게 제공되는 창작적 선택들은 궁극적으로 기업적 선택들이다 — 창작적인 것이 아니라. 출력이 멋져 보일 때조차 그것은 유지할 가치가 있는 구별이다. 이 규제적 그림이 어떻게 발전하는지 추적하는 독자들은 다른 각도에서 저작권 질문을 제기한 교황 레오 14세의 AI 아트 비판에 대한 우리의 이전 보도에서 유용한 맥락을 찾을 수 있다.

지켜볼 다음 구체적 순간은 현재 안전 협약의 서명자가 그것에서 벗어나는 것에 대해 어떤 결과를 직면하는지이다. 만약 답이 아니오라면 — 그리고 지금까지 구조는 그럴 것임을 시사한다 — 그것은 창작자들에게 그들의 도구를 형성하는 서약들에 얼마나 많은 비중을 둘지에 대해 알아야 할 모든 것을 말해준다.