OpenAI вмикає текстові водяні знаки за замовчуванням для виводу ChatGPT і Codex у ЄС — крок на виконання вимог Закону про ШІ — однак сама компанія визнає, що система не надто надійна і її легко обійти.
Ключові висновки
- OpenAI вмикає невидимі текстові водяні знаки за замовчуванням для користувачів ChatGPT у ЄС — вимога, пов'язана з правилами прозорості Закону ЄС про ШІ.
- Технологія водяних знаків під назвою textGrain вбудовує сигнали у згенерований текст, невидимі для читачів, але теоретично виявні за допомогою інструменту верифікації.
- OpenAI та Ars Technica зазначають, що система не надто надійна і може бути нейтралізована незначними правками — копіюванням і вставкою, перефразуванням або переформатуванням.
- Увімкнення за замовчуванням поширюється лише на ЄС; користувачі у США та інших країнах не зазнають жодних змін.
- У рамках цього розгортання для зображень ChatGPT не запроваджено жодного обов'язкового еквівалентного водяного знака.
Що насправді робить textGrain — і чого не робить
Система водяних знаків OpenAI під назвою textGrain кодує невидимі сигнали у статистичні патерни згенерованого тексту — вибір слів, пунктуацію, тонкі зміни формулювань — замість того, щоб додавати будь-який видимий тег. Ідея полягає в тому, що інструмент-детектор може сканувати текст і позначати його як імовірно згенерований ШІ, навіть якщо він читається ідентично до тексту без водяного знака.
Але є суттєвий підводний камінь. За даними Ars Technica, система визнана не надто надійною, а для її обходу достатньо лише злегка перефразувати вивід, переформатувати його або пропустити через інший інструмент. Це низька планка для будь-кого, хто прагне видалити сигнал, — включно зі зловмисниками, які використовують ШІ для генерації оманливого контенту, тобто саме тим випадком, який найбільше турбує регуляторів.
Для творців AI-арту та авторів, які використовують ChatGPT як частину творчого процесу — складання підписів, написання передісторій персонажів, генерації варіантів промптів — практичний вплив у повсякденній роботі близький до нуля. Водяний знак невидимий і не змінює придатність тексту до використання. Але це означає, що користувачі з ЄС тепер генерують текст із прихованим сигналом походження — незалежно від того, знають вони про це чи хочуть цього.
Лише для ЄС — і це зроблено навмисно
Статус «увімкнено за замовчуванням» є прямою відповіддю на Закон ЄС про ШІ, який зобов'язує постачальників систем ШІ загального призначення маркувати контент, згенерований ШІ, у спосіб, що дозволяє його виявлення. OpenAI виконує вимоги в юрисдикції, яка їх встановлює, і не поширює їх на інші регіони. Для користувачів у США нічого не змінюється.
Цей географічний розподіл важливий для творців, які працюють через кордони. Якщо ви — творець із ЄС, який подає текст за допомогою ШІ на платформу, у видання або клієнту, що проводить перевірки за допомогою детекторів ШІ, ваші виводи ChatGPT тепер несуть сигнал — хоч і слабкий — який детектор може зафіксувати. За межами ЄС той самий вивід не несе жодного.
Загальна регуляторна картина залишається роздробленою. Як висвітлював Charmloop, змістовне регулювання контенту ШІ у США залишається заблокованим у Конгресі, що наразі робить ЄС де-факто законодавцем стандартів водяних знаків.
Проблема надійності, яку ніхто не вирішив
Текстові водяні знаки — це справді складна задача. На відміну від водяних знаків на зображеннях — де метадані або сигнали на рівні пікселів можуть витримати багато перетворень — текстові водяні знаки деградують у момент, коли вивід торкаються. Один раунд легкого редагування, перекладу або резюмування може повністю видалити сигнал. OpenAI не стверджує протилежного.
Це ставить textGrain у незручне становище: він задовольняє регуляторну вимогу, забезпечуючи при цьому обмежені реальні можливості виявлення. Дослідники, які вивчають ознаки письма ШІ, виявили, що статистичні відбитки — як-от слово «dependable», що зустрічається у 23 рази частіше у Anthropic Opus 5.5, ніж у текстах людей, — можуть бути більш стійкими, ніж спеціально створені водяні знаки, саме тому що їх важче навмисно видалити.
Для творців, які використовують ChatGPT для допомоги з написанням текстів поряд із генерацією зображень у таких інструментах, як генератор Charmloop, практичний висновок такий: не сприймайте наявність або відсутність водяного знака як надійний сигнал чого-небудь. Технологія ще не досягла потрібного рівня, і OpenAI не стверджує, що досягла. Змінилося лише налаштування за замовчуванням — а не базові можливості.
