OpenAI включает текстовые водяные знаки по умолчанию для выходных данных ChatGPT и Codex в ЕС — шаг в сторону соответствия требованиям Закона об ИИ — однако сама компания признаёт, что система не отличается особой надёжностью и легко обходится.
Ключевые выводы
- OpenAI включает невидимые текстовые водяные знаки по умолчанию для пользователей ChatGPT в ЕС — это требование связано с правилами прозрачности Закона ЕС об ИИ.
- Технология водяных знаков, называемая textGrain, встраивает сигналы в генерируемый текст, невидимые для читателей, но теоретически обнаруживаемые инструментом верификации.
- OpenAI и Ars Technica отмечают, что система не отличается особой надёжностью и может быть нейтрализована незначительными правками — копированием, перефразированием или переформатированием.
- Включение по умолчанию распространяется только на ЕС; пользователи в США и других странах не затронуты.
- Аналогичных обязательных водяных знаков для изображений, генерируемых ChatGPT, в рамках этого развёртывания не предусмотрено.
Что textGrain на самом деле делает — и чего не делает
Система водяных знаков OpenAI, называемая textGrain, кодирует невидимые сигналы в статистические паттерны генерируемого текста — выбор слов, пунктуацию, тонкие сдвиги в формулировках — вместо того чтобы добавлять какой-либо видимый тег. Идея состоит в том, что инструмент-детектор может проанализировать фрагмент текста и пометить его как вероятно сгенерированный ИИ, даже если он выглядит идентично тексту без водяного знака.
Однако загвоздка весьма существенна. По данным Ars Technica, система признана не особо надёжной, а для её обхода достаточно слегка перефразировать текст, переформатировать его или пропустить через другой инструмент. Это низкий порог для тех, кто мотивирован удалить сигнал, — включая злоумышленников, использующих ИИ для создания вводящего в заблуждение контента, что как раз и является главной проблемой для регуляторов.
Для создателей ИИ-арта и авторов, использующих ChatGPT в творческом процессе — для написания подписей, биографий персонажей, вариантов промптов — практическое влияние в повседневной работе близко к нулю. Водяной знак невидим и не влияет на удобство использования текста. Однако это означает, что пользователи из ЕС теперь генерируют тексты со скрытым сигналом происхождения — знают они об этом или нет, хотят этого или нет.
Только для ЕС — намеренно
Включение по умолчанию — прямой ответ на требования Закона ЕС об ИИ, обязывающего поставщиков систем ИИ общего назначения маркировать контент, сгенерированный ИИ, таким образом, чтобы его можно было обнаружить. OpenAI выполняет требования в той юрисдикции, которая их предписывает, и не распространяет их на другие регионы. Для пользователей в США ничего не изменилось.
Это географическое разделение важно для авторов, работающих на международном уровне. Если вы — автор из ЕС, отправляющий текст с помощью ИИ на платформу, в издание или клиенту, который проводит проверки на ИИ-генерацию, ваши тексты из ChatGPT теперь несут сигнал — пусть и слабый — который детектор может уловить. За пределами ЕС тот же текст не несёт никакого сигнала.
Общая регуляторная картина остаётся раздробленной. Как освещал Charmloop, полноценное регулирование ИИ-контента в США по-прежнему заблокировано в Конгрессе, что делает ЕС де-факто законодателем стандартов водяных знаков на сегодняшний день.
Проблема надёжности, которую никто не решил
Текстовые водяные знаки — это действительно сложная задача. В отличие от водяных знаков на изображениях — где метаданные или сигналы на уровне пикселей могут сохраняться при многих преобразованиях — текстовые водяные знаки деградируют в момент, когда текст редактируется. Один раунд лёгкого редактирования, перевода или резюмирования может полностью уничтожить сигнал. OpenAI этого не отрицает.
Это ставит textGrain в неловкое положение: система удовлетворяет регуляторному требованию, обеспечивая при этом ограниченные реальные возможности обнаружения. Исследователи, изучающие признаки ИИ-письма, обнаружили, что статистические отпечатки — например, слово «dependable», встречающееся в 23 раза чаще в Anthropic Opus 5.5, чем в текстах людей, — могут оказаться более устойчивыми, чем искусственно созданные водяные знаки, именно потому, что их сложнее намеренно удалить.
Для авторов, использующих ChatGPT в работе с текстом наряду с генерацией изображений в таких инструментах, как генератор Charmloop, вывод практический: не стоит воспринимать наличие или отсутствие водяного знака как надёжный сигнал о чём-либо. Технология ещё не достигла нужного уровня, и OpenAI этого не утверждает. Изменилась настройка по умолчанию — но не базовые возможности.
