Создай бесплатный аккаунт Charmloop — без карты и без ограничений на просмотр. Начни создавать ИИ-арт за пару минут.
Водяной знак SynthID от Google выдерживает агрессивные манипуляции с изображениями в ходе независимого тестирования — однако исследователи теперь утверждают, что надёжная маркировка и решение проблемы дезинформации с помощью ИИ — это две принципиально разные задачи.
SynthID встраивает неощутимый сигнал непосредственно в пиксельные данные в момент генерации, а не прикрепляет метаданные, которые можно удалить одним правым кликом. По данным тестирования Ars Technica, водяной знак выдерживает жёсткий набор операций постобработки: сжатие JPEG, изменение размера, обрезку, регулировку яркости и контраста, а также преобразование цветового пространства. Это значительно более высокая планка, чем у большинства схем подтверждения подлинности контента, которые рушатся в момент создания скриншота или повторного сохранения изображения.
Для авторов, создающих изображения с помощью инструментов Google, эта долговечность вполне реальна. Если изображение покинет ваши руки и будет использовано без указания авторства, детектор, поддерживающий SynthID, всё равно сможет определить его происхождение — при условии, что кто-то выполнит проверку.
Проблема заключается в охвате. SynthID маркирует только контент, созданный собственными моделями Google. Подавляющее большинство изображений ИИ, циркулирующих в сети, создаётся с помощью форков Stable Diffusion, Midjourney, Flux и десятков других конвейеров, не имеющих интеграции с SynthID. Злоумышленник, желающий распространить синтетическое изображение, просто воспользуется инструментом за пределами экосистемы Google — и вопрос о водяном знаке не возникнет вовсе.
Это не недостаток инженерного решения SynthID — это структурный разрыв в более широкой экосистеме. Авторы, работающие на нескольких платформах или использующие модели с открытыми весами из каталога моделей Charmloop, будут создавать изображения без какого-либо водяного знака — вне зависимости от того, насколько совершенна реализация Google.
Даже идеально надёжный и повсеместно принятый водяной знак сталкивается с проблемой времени. Вирусная дезинформация распространяется за минуты; верификация водяного знака — это шаг, требующий от кого-то активного выполнения проверки. К тому моменту, когда помеченное изображение будет идентифицировано как созданное ИИ, оно, возможно, уже будет распространено сотни тысяч раз. Ars Technica отмечает, что маркировка контента ИИ в конечном счёте может оказаться проигрышной стратегией именно по этой причине — инфраструктура для проверки водяных знаков со скоростью социальных сетей попросту ещё не существует.
Для создателей ИИ-арта это имеет практическое значение в обратном направлении: SynthID и подобные системы более полезны как инструменты подтверждения происхождения — доказательства того, что вы создали что-то, — нежели как барьеры против дезинформации. Если вы формируете портфолио, лицензируете работы или хотите установить авторство, долговечный встроенный водяной знак является реальным преимуществом. Платформы и клиенты всё чаще хотят знать, откуда взялось изображение, а сигнал, выдерживающий агрессивное редактирование, более достоверен, чем тег метаданных.
Исследователи указывают на два недостающих элемента. Во-первых, межотраслевые стандарты водяных знаков: единый уровень обнаружения, работающий вне зависимости от того, было ли изображение создано Google, OpenAI, Stability AI или локально запущенной моделью с открытыми весами. Во-вторых, принуждение на уровне платформ — социальные сети и поисковые системы, проверяющие наличие водяных знаков перед усилением контента, а не после поступления жалоб.
Ни того, ни другого сегодня не существует. Коалиция за подлинность и происхождение контента (C2PA) работает над совместимыми учётными данными контента, однако распространение остаётся неравномерным, а стандарт не охватывает изображения, созданные инструментами, которые просто отказываются от участия.
Отчёт Hugging Face о модерации дипфейков, опубликованный ранее в этом году, наглядно показал, насколько широк этот разрыв — платформы, размещающие открытые модели, практически не заинтересованы во встраивании трассируемости, которую они сами не создавали.
Технические показатели SynthID действительно впечатляют. Более сложный вопрос — кто проверяет, когда и на каких платформах — остаётся без ответа. Авторам, желающим понять, как инструменты подтверждения происхождения ИИ взаимодействуют с их рабочим процессом генерации изображений, следует внимательно следить за кривой принятия C2PA — именно там развернётся настоящая борьба за верифицируемое авторство в сфере ИИ.
