AI 도구·모델
Hugging Face, 딥페이크 '누드화' 모델을 최소한의 관리만으로 호스팅 — 보고서 발표
Charmloop 편집팀· 편집·
유럽 비영리단체 AI Forensics의 새 보고서에 따르면, Hugging Face에 호스팅된 상위 이미지 편집 모델 9개 중 7개가 요청 시 비동의 누드 이미지를 생성하는 것으로 확인됐습니다 — 이 발견은 플랫폼의 오픈 모델 정책을 직접적인 검토 대상에 올려놓습니다.
오픈 모델 플랫폼은 비동의 딥페이크에 사용되는 이미지 생성 도구를 관리하라는 압박이 커지고 있습니다.
AI Forensics 보고서는 The Verge가 보도했으며, 잘 알려지지 않은 저장소가 아닌 Hugging Face에서 가장 많이 다운로드된 이미지 편집 모델, 즉 차트 최상위 모델들에 초점을 맞췄습니다. 연구진은 이 모델들이 미성년자를 포함한 실제 인물 사진에서 옷을 벗기도록 설계된 프롬프트에 응한다는 사실을 발견했습니다. 보고서에 따르면 플랫폼의 대응은 미미한 수준에 그쳤습니다.
Hugging Face는 AI 생태계에서 독특한 위치를 차지합니다. 세계 최대의 오픈 웨이트 모델 허브인 동시에, 모델을 로컬에서 실행하거나 특정 작업에 맞게 파인튜닝하려는 독립 창작자들에게 핵심 인프라 역할을 합니다. 이 이중적 역할이 콘텐츠 관리를 진정으로 복잡하게 만듭니다. 수십만 번 다운로드된 모델을 삭제하면 유해한 사용 사례와 함께 합법적인 사용 사례도 차단됩니다 — 그러나 그대로 두면 플랫폼이 사실상 악용 도구를 배포하는 셈이 됩니다.
폐쇄형 플랫폼인 Midjourney, Adobe Firefly, OpenAI의 이미지 도구는 추론 레이어에서 콘텐츠 정책을 적용합니다. 모든 생성 요청이 필터를 통과합니다. Hugging Face에 호스팅된 오픈 웨이트 모델은 그런 방식으로 작동하지 않습니다. 모델이 다운로드되면 운영자가 무엇을 허용하고 허용하지 않을지를 결정합니다. 플랫폼이 실질적으로 행사할 수 있는 유일한 수단은 모델 호스팅 여부뿐입니다.
바로 이 지점이 AI Forensics 보고서가 지적하는 공백입니다. Hugging Face는 아동 성착취물 및 비동의 친밀 이미지를 생성하도록 설계된 모델을 금지하는 콘텐츠 정책을 갖추고 있지만, 집행은 일관성이 없어 보입니다. 비영리단체는 문제가 된 모델들이 숨겨져 있지 않았으며, 다운로드 수 기준 검색 결과 최상위에 노출되어 있었다고 밝혔습니다.
디퓨전 모델과 파인튜닝 모델에 접근하기 위해 Hugging Face에 의존하는 창작자들에게 이는 실질적인 문제입니다. 플랫폼에 대한 규제 반발이 공개적으로 호스팅할 수 있는 모델에 대한 제한을 가속화할 수 있으며, 이는 합법적인 창작 작업에 활용 가능한 오픈 웨이트 옵션의 폭을 좁힙니다. EU의 AI 법과 각국의 딥페이크 관련 법률이 이미 이 방향으로 움직이고 있으며, 이번과 같은 주목도 높은 보고서는 그 일정을 앞당기는 경향이 있습니다.
Hugging Face가 호스팅 콘텐츠로 비판을 받은 것이 이번이 처음은 아닙니다 — 이전에는 모델 보안 및 무단 접근과 관련한 논란이 있었습니다 — 그러나 AI Forensics의 이번 조사 결과는 이론적 위험이 아닌 구체적이고 반복 가능한 피해를 문서화했다는 점에서 더욱 날카롭습니다.
창작자들에게 미치는 실질적인 결과는 주의 깊게 지켜볼 필요가 있습니다. Hugging Face가 더 광범위한 자동 필터링이나 엄격한 업로드 요건으로 대응한다면, 그 마찰은 유해한 모델뿐만 아니라 플랫폼의 모든 모델에 적용될 것입니다. 현재 로컬 워크플로를 위해 허브에서 직접 이미지 생성 모델을 가져오는 창작자들은 선택지가 줄어들거나, 특정 모델 클래스에 접근하기 위한 새로운 인증 요건에 직면할 수 있습니다.
이 보고서는 오픈 웨이트 커뮤니티가 이미 모델 제한을 둘러싼 업계 압박을 헤쳐나가고 있는 시점에 등장했습니다. 비동의 딥페이크 우려가 이 논쟁에 더해지면서 규제 당국은 추상적인 안전 논거와는 다른 종류의 압박인, 구체적인 피해 사례를 근거로 제시할 수 있게 됐습니다.
