Получай на почту главные истории недели об ИИ и ИИ-арте — отобранные, краткие, бесплатно.
Бесплатно. Отписаться можно в любой момент.
Обязательства по прозрачности ИИ-акта Европейского союза вступили в силу 2 августа, требуя от платформ маркировать контент, созданный ИИ, и раскрывать, когда пользователи общаются с чат-ботом — первые обязательные правила такого рода, которые затронули ИИ-индустрию в масштабе.
Образцы меток ИИ-контента, разработанные ЕС, иллюстрирующие требуемые форматы раскрытия для синтетических медиа.
Изображение: The Verge / The Verge AI
Для создателей ИИ-арта практические трудности проявляются на уровне распространения, а не генерации. Создание изображений с помощью такого инструмента, как генератор Charmloop, остается неизменным — обязательства ложатся на платформы, где эта работа публикуется или распространяется. Но любая доступная в ЕС платформа, размещающая ваш контент, теперь имеет правовой стимул либо внедрить собственную систему маркировки, либо переложить эту ответственность на загружающих.
Согласно The Verge, правила специально нацелены на компании, развертывающие ИИ-системы для пользователей ЕС — определение достаточно широкое, чтобы охватить социальные платформы, сайты стоковых изображений и торговые площадки контента, которые распространяют работы, созданные ИИ, даже если эти компании имеют штаб-квартиры за пределами Европы. Эта экстерриториальная досягаемость — деталь, которую большинство создателей должны отслеживать: американский стоковый сайт с европейскими клиентами попадает в область действия.
Дипфейки получают самое строгое обращение. Реалистичные синтетические изображения реальных людей — будь то в изображениях, видео или аудио — должны быть явно помечены как созданные ИИ. Это положение, скорее всего, изменит то, как циркулирует ИИ-портретный контент и контент ИИ-инфлюенсеров, поскольку платформы, сталкивающиеся со штрафами, быстро перейдут к блокировке немаркированных загрузок или их автоматической пометке.
Практическим ответом большинства платформ будет опора на технические сигналы происхождения — встроенные метаданные и водяные знаки — вместо полагания на самораскрытие создателей. Система водяных знаков SynthID от Google и стандарт метаданных Coalition for Content Provenance and Authenticity (C2PA) — два ведущих подхода, уже используемых. Создатели, которые генерируют работы с помощью инструментов, встраивающих метаданные C2PA по умолчанию, обнаружат, что их контент автоматически соответствует требованиям на участвующих платформах; те, кто использует инструменты или рабочие процессы, которые удаляют метаданные, сталкиваются с более сложным путем.
Это создает тихое, но реальное расхождение в ценности рабочего процесса. Генераторы, которые встраивают данные о происхождении в каждый результат — вместо того чтобы рассматривать это как дополнительную настройку экспорта — становятся значительно более полезными для всех, кто распространяет контент на европейских рынках. Стоит проверить, какие модели в данном каталоге ИИ-моделей поддерживают вывод C2PA нативно, поскольку эта возможность вот-вот станет коммерчески важной.
Требование раскрытия дипфейков также оказывает сдерживающий эффект на определенную категорию контента: созданные ИИ изображения, используемые в рекламе, редакционных материалах или социальном контенте без согласия субъекта. Платформы, которые ранее терпели неоднозначные синтетические портреты, теперь будут иметь регулятивное прикрытие — и стимул — для обеспечения более строгих политик загрузки. Создатели, работающие с ИИ-персонажами или стилизованными портретами вымышленных людей, в основном не затронуты, но всем, кто работает с фотореалистичными изображениями реальных людей, нужно проверить свой канал распространения прямо сейчас.
Эти обязательства по прозрачности — первая партия ИИ-акта, которая вступила в силу. Положения регулирования с более высоким риском — охватывающие такие вещи, как биометрические системы и ИИ в критической инфраструктуре — развертываются по более длинному графику до 2026 и 2027 годов. Но правила маркировки контента действуют сейчас, и Европейское управление ИИ, которое контролирует принуждение, сигнализировало о намерении действовать по жалобам, а не ждать истечения льготного периода.
Для создателей, интересующихся тем, как технология обнаружения ИИ развивается наряду с этими правилами, недавний запуск Pangram модели обнаружения ИИ-изображений иллюстрирует именно тот вид инфраструктуры, который платформы будут развертывать для автоматизации соблюдения — и который будет все больше определять, будет ли контент, созданный ИИ, показываться или подавляться.
