Вдохновила эта история? Преврати идею в собственное ИИ-искусство за секунды — бесплатный старт, без банковской карты.
Новая система Content Seal от Meta способна обнаруживать сгенерированные ИИ изображения в Facebook и Instagram — но лишь в том случае, если они созданы собственной моделью компании Muse, оставляя практически всё остальное незамеченным.
В марте Наблюдательный совет призвал Meta «выполнить свои публичные обязательства и задействовать собственные инструменты» для сокращения распространения вводящего в заблуждение генеративного ИИ-контента. Июльский ответ Meta — Content Seal — технически работоспособен, но операционно ограничен. Инструмент обнаружения отображает чёткую пометку, когда находит изображение, созданное Muse, включая метаданные о модели и дате генерации.
Информация, отображаемая при успешном распознавании инструментом Content Seal от Meta изображения, созданного собственной моделью Muse.
Изображение: The Verge / The Verge AI
Для создателей ИИ-арта практический разрыв очевиден. Подавляющее большинство ИИ-изображений, циркулирующих в Facebook и Instagram, созданы не с помощью Muse — они пришли из Midjourney, DALL-E 3, Flux или вариантов Stable Diffusion. Content Seal не способен охватить ни одно из них. По данным The Verge, SynthID от Google уже поддерживает более широкий спектр генераторов и представляет собой более достоверный подход к кросс-платформенному обнаружению.
Инструмент Meta показывает это сообщение, когда маркеры Content Seal не найдены — однако отсутствие маркера не является подтверждением подлинности изображения.
Изображение: The Verge / The Verge AI
SynthID, стандарт водяных знаков от Google, изначально создавался для работы с несколькими генераторами — включая сторонние модели, подключившиеся к системе. Такая архитектура означает, что единый детектор способен охватить значимую долю ИИ-контента. Content Seal — по замыслу или в силу ограничений — охватывает ровно одну модель: Muse. Для авторов, которым важна атрибуция — будь то желание правильно атрибутировать собственные работы или понять, является ли найденное в сети референсное изображение ИИ-генерацией, — это различие имеет огромное значение.
Инструмент также не выдерживает базовой постобработки. Сильное сжатие, кадрирование или цветокоррекция могут уничтожить или повредить невидимые водяные знаки. Meta не публиковала подробностей об устойчивости Content Seal к подобным преобразованиям, которые являются обычной практикой при публикации в социальных сетях.
Если вы создаёте изображения с помощью таких инструментов, как Flux или Midjourney, и публикуете их в Instagram, Content Seal не пометит их как ИИ-генерацию — даже если вы сами этого хотите. Это работает в обе стороны: авторы, желающие прозрачной маркировки своих ИИ-работ, не получают от этой системы никакой помощи, а злоумышленники, использующие любой генератор не от Meta, не встречают с её стороны никакого сопротивления.
Генератор изображений Charmloop и большинство сторонних инструментов также находятся за пределами области действия Content Seal. Для авторов, решающих вопросы атрибуции и подлинности, наиболее полезной привычкой прямо сейчас остаётся ручное указание ИИ-генерации в подписях и метаданных — поскольку ни одна система обнаружения на стороне платформы в настоящее время не охватывает весь спектр активно используемых инструментов.
Широкий каталог ИИ-моделей Meta включает Muse наряду с другими генеративными инструментами, однако детектор Content Seal настолько полезен, насколько широка охватываемая им экосистема. До тех пор пока Meta не лицензирует SynthID, не выстроит партнёрства с другими моделями или не откроет свой стандарт водяных знаков для сторонних разработчиков, Content Seal функционирует скорее как инструмент защиты бренда Muse, нежели как реальное решение проблемы обмана с помощью ИИ-контента в масштабе.
Наблюдательный совет пока не отреагировал публично на июльский запуск — и, учитывая, насколько узко Content Seal отвечает на исходный мандат, эта реакция может оказаться весьма острой, когда всё же последует.
