Рекламная платформа Meta транслировала платные объявления приложения, которое открыто обещало генерировать дипфейки с обнажёнными реальными женщинами-политиками без их согласия — причём как минимум одно объявление содержало порнографическое видео с изображением человека, похожего на действующего американского политика.
Ключевые выводы
- Рекламная система Meta одобрила и транслировала объявления приложения, открыто предлагавшего создавать обнажённые дипфейки конкретных женщин-политиков.
- Как минимум одно объявление содержало порнографическое видео с дипфейком, очень похожим на реального американского политика, — по данным Ars Technica.
- Произошедшее — прямой сбой рекламной инфраструктуры Meta, а не просто пограничный случай в модерации контента.
- Сгенерированные ИИ интимные изображения без согласия (NCII) уже незаконны во всё большем числе штатов США и ряде стран, а значит, платформы, размещающие подобную рекламу, несут возрастающие правовые риски.
- Для создателей ИИ-изображений этот эпизод ужесточает политическую среду: в ближайшие месяцы следует ожидать более строгих ограничений на использование личности и внешности на крупных платформах генерации.
Как реклама прошла через систему проверки Meta
По данным Ars Technica, объявления не были завуалированными — они прямо называли возможность и как минимум в одном случае демонстрировали её с помощью порнографического дипфейка. Это означает, что автоматическая проверка рекламы Meta, призванная выявлять нарушения политики до публикации объявления, не справилась с самым базовым уровнем обнаружения контента. Приложение не скрывало своих функций.
Политика Meta запрещает рекламу продуктов, способствующих созданию интимных изображений без согласия. То, что эти объявления всё равно прошли проверку, указывает на разрыв между задекларированной политикой и инфраструктурой её исполнения — разрыв, который становится всё более значимым по мере роста качества генерации изображений и снижения стоимости создания убедительных дипфейков до нуля.
Более широкая проблема применения законодательства об NCII
Это не единичный случай. Инцидент с Grok и CSAM в начале этого года — когда инструмент генерации изображений xAI был использован для сексуализации детской фотографии — показал, что защитные механизмы безопасности ИИ-изображений могут катастрофически давать сбой даже на специализированных платформах генерации. Ситуация с Meta, пожалуй, хуже: сбой произошёл на уровне дистрибуции рекламы, то есть платформа получала деньги за расширение доступа к инструменту.
С законодательной точки зрения ситуация меняется стремительно. Федеральный закон США DEFIANCE Act и разрозненные законы штатов теперь криминализируют распространение сгенерированных ИИ материалов NCII, а Закон ЕС об ИИ возлагает обязательства на платформы, размещающие или продвигающие подобные инструменты. Размещение рекламы приложения, предлагающего дипфейк-обнажение конкретных людей, в ряде юрисдикций уже не является лишь вопросом нарушения условий использования.
Что это означает для платформ ИИ-изображений и создателей
Для всех, кто работает с генерацией ИИ-изображений — будь то создание персонажей, генерация портретов или эксперименты с промптами на основе внешности, — регуляторные последствия подобных инцидентов, как правило, затрагивают весь сектор, а не только нарушителей. Когда крупная платформа вроде Meta оказывается уличена в распространении рекламы приложения для «раздевания», законодатели и другие платформы обычно реагируют повсеместным ужесточением правил в отношении личности и внешности.
Практически это означает несколько вещей, за которыми стоит следить. Платформы, сейчас допускающие гибкие функции замены лиц или подбора внешности, могут добавить дополнительные барьеры — дополнительные флажки согласия, более строгую фильтрацию промптов с именами конкретных людей или полное удаление определённых возможностей. Если вы используете инструмент, позволяющий указывать реальных людей по имени в промптах, зафиксируйте свои текущие рабочие процессы сейчас — именно эти возможности исчезают первыми, когда платформы спешат продемонстрировать соответствие требованиям.
Более долгосрочный урок касается разрыва в инфраструктуре. Приложения для дипфейк-обнажения не новы, однако их качество перешагнуло порог, при котором результат достаточно убедителен, чтобы использоваться против реальных людей в масштабе. Этот качественный скачок — тот же, что делает ИИ-генерацию изображений более полезной для творческой работы, — одновременно делает этот вид вреда более серьёзным. Регуляторы и платформы наверстывают упущенное, и политическая среда на ближайшие 12 месяцев отразит это.
На момент публикации Meta не выпустила официального заявления по поводу конкретных объявлений. Название приложения в материале Ars Technica не фигурировало.
