Создай бесплатный аккаунт Charmloop — без карты и без ограничений на просмотр. Начни создавать ИИ-арт за пару минут.
Система обнаружения дипфейков Google успешно идентифицировала сфабрикованное ИИ-изображение сенатора Митча МакКоннелла — на котором он якобы находится в тяжёлом состоянии в больничной постели — как фальшивку, сообщает TechCrunch. Этот случай стал одним из наиболее публичных реальных испытаний технологий аутентификации ИИ-изображений на сегодняшний день и имеет прямые последствия для всех, кто создаёт изображения с помощью подобных инструментов.
Изображение распространилось в начале этой недели — на нём сенатор от Кентукки якобы находился в тяжёлом состоянии с трубками и медицинским оборудованием. Оно выглядело достаточно убедительно, чтобы разойтись по социальным сетям до вмешательства фактчекеров. Система обнаружения Google — часть её масштабных усилий по борьбе с синтетическими медиа — проанализировала изображение и идентифицировала его как созданное ИИ, предоставив конкретное техническое основание для опровержения.
Инструменты детектирования, подобные системе Google, как правило, работают путём сканирования артефактов, которые оставляют модели генерации: неестественные паттерны текстуры кожи, несогласованная физика освещения, статистические нарушения в распределении пикселей и характерное сглаживание краёв, которого не бывает на настоящих фотографиях. Эти сигнатуры зачастую невидимы невооружённым глазом, но обнаруживаются на уровне данных.
Для создателей ИИ-арта этот инцидент наглядно демонстрирует то, о чём редко говорят прямо: каждое сгенерированное вами изображение несёт отпечаток, а инфраструктура для его считывания становится всё более мощной и широко распространённой. Это не гипотетическое будущее — система Google только что продемонстрировала это на изображении, получившем общенациональное распространение.
Практические последствия двоякие. С одной стороны, улучшенное детектирование действительно полезно: именно оно позволяет отличить творческое ИИ-произведение от политической дезинформационной кампании. С другой — системы детектирования несовершенны и могут давать ложные срабатывания. Тот же анализ на уровне пикселей, который выявил фальшивку с МакКоннеллом, теоретически может пометить легитимную творческую работу, если она случайно разделяет сигнатуры генерации с известными дезинформационными материалами.
Выбор модели здесь имеет значение, которое создатели не всегда принимают во внимание. Различные архитектуры генерации — диффузионные модели, GAN, авторегрессионные модели изображений — оставляют разные артефактные сигнатуры. Детектор, обученный преимущественно на выходных данных одного семейства моделей, может быть менее точен в отношении другого. Поскольку такие модели, как Flux, варианты Stable Diffusion и Midjourney, производят различные статистические отпечатки, ландшафт детектирования фрагментирован, а не универсален.
Существует и вторичный эффект, заслуживающий внимания. По мере совершенствования систем детектирования разработчики моделей испытывают давление с целью производить результаты, которые сложнее пометить, — что на практике означает более чистые, физически согласованные изображения с меньшим количеством характерных артефактов. Это давление уже заметно в том, как новые версии моделей обрабатывают мелкие детали: руки, зубы, текстуру ткани и согласованность фона. Детектирование и генерация фактически эволюционируют совместно.
Дело МакКоннелла также подчёркивает репутационные ставки, связанные с ИИ-изображениями в масштабе. Одна убедительная фальшивка с публичной фигурой может распространяться часами до опровержения. Эта реальность ускоряет институциональные инвестиции в инфраструктуру детектирования — от системы Google до стандартов происхождения C2PA инициативы Content Authenticity Initiative, которые встраивают криптографические метаданные в изображения в момент создания.
Создатели, работающие на платформах с поддержкой подписи C2PA — список которых растёт — находятся в лучшем положении для подтверждения законного происхождения своих работ. Те, кто генерирует и распространяет изображения без какого-либо слоя происхождения, не имеют технической возможности отличить свои работы от недобросовестной фальшивки, даже если намерения сугубо художественные.
Инцидент с МакКоннеллом не станет последним резонансным испытанием этой инфраструктуры. Политические деятели, события в прямом эфире и вирусные моменты продолжат служить мишенями, и каждый из них будет подталкивать системы детектирования к более быстрому совершенствованию. Создатели, понимающие принципы работы этой системы и то, какие сигналы оставляют выбранные ими инструменты, лучше подготовлены к тому, что грядёт.
