Полистай модели и стили, что стоят за такими историями — бесплатный аккаунт, галерея сразу.
Открыть каталог
Семь из девяти ведущих моделей редактирования изображений, размещённых на Hugging Face, по запросу генерируют изображения обнажённых людей без их согласия — к такому выводу пришла европейская некоммерческая организация AI Forensics в новом докладе, ставящем политику открытых моделей платформы под прямой удар критики.
Платформы открытых моделей испытывают растущее давление с требованием модерировать инструменты генерации изображений, используемые для создания дипфейков без согласия.
Изображение: The Verge / The Verge AI
Доклад AI Forensics, освещённый The Verge, был сосредоточен именно на наиболее загружаемых моделях редактирования изображений на Hugging Face — не на малоизвестных, скрытых репозиториях, а на лидерах по популярности. Исследователи выяснили, что эти модели выполняли запросы, направленные на удаление одежды с фотографий реальных людей, включая несовершеннолетних. Реакция платформы, согласно докладу, оказалась минимальной.
Hugging Face занимает уникальное положение в экосистеме ИИ: это одновременно крупнейший в мире хаб моделей с открытыми весами и критически важная инфраструктура для независимых создателей, желающих запускать модели локально или дообучать их под конкретные задачи. Эта двойственная роль делает модерацию контента по-настоящему сложной задачей. Удаление модели, скачанной сотни тысяч раз, нарушает легитимные сценарии использования наряду с вредоносными — но оставить её означает, что платформа фактически распространяет инструмент для злоупотреблений.
Закрытые платформы — Midjourney, Adobe Firefly, инструменты для изображений OpenAI — применяют политику контента на уровне инференса. Каждый запрос на генерацию проходит через фильтр. Модели с открытыми весами, размещённые на Hugging Face, работают иначе. После загрузки модели оператор сам определяет, что она будет и не будет делать. Единственный реальный рычаг влияния платформы — решение о том, размещать ли модель вообще.
Именно на этот пробел указывает доклад AI Forensics. У Hugging Face есть политика контента, запрещающая модели, предназначенные для генерации материалов сексуального насилия над детьми и интимных изображений без согласия, однако правоприменение выглядит непоследовательным. Некоммерческая организация обнаружила, что проблемные модели не были скрыты — они занимали верхние строчки результатов поиска по количеству загрузок.
Для создателей, которые полагаются на Hugging Face для доступа к диффузионным моделям и файнтюнам, это имеет практическое значение. Регуляторная реакция против платформы может ускорить введение ограничений на публичный хостинг моделей, что, в свою очередь, сузит пул доступных открытых вариантов для легитимного творческого процесса. Закон ЕС об ИИ и различные национальные законы о дипфейках уже движутся в этом направлении; резонансный доклад подобного рода, как правило, ускоряет этот процесс.
Это не первый случай, когда Hugging Face подвергается критике за размещаемый контент — более ранние разногласия касались безопасности моделей и несанкционированного доступа — однако выводы AI Forensics более конкретны, поскольку документируют специфический, воспроизводимый вред, а не теоретический риск.
Практические последствия для создателей заслуживают пристального внимания. Если Hugging Face ответит более широкой автоматической фильтрацией или более строгими требованиями к загрузке, это трение затронет каждую модель на платформе, а не только вредоносные. Создатели, которые сейчас напрямую берут модели генерации изображений из хаба для локальных рабочих процессов, могут обнаружить, что доступных вариантов стало меньше, или столкнуться с новыми требованиями верификации для доступа к определённым классам моделей.
Доклад также появляется в момент, когда сообщество открытых весов уже navigates отраслевое давление вокруг ограничений моделей. Добавление проблемы дипфейков без согласия к этой дискуссии даёт регуляторам конкретный вред, на который можно указать, — а это иной вид давления, нежели абстрактные аргументы о безопасности.
