Створи безкоштовний акаунт Charmloop — без картки й без обмежень на перегляд. Почни створювати ШІ-арт за лічені хвилини.
Водяний знак SynthID від Google витримує агресивні маніпуляції із зображеннями в незалежному тестуванні — але дослідники вже стверджують, що надійне водяне маркування і вирішення проблеми дезінформації на основі ШІ — це два принципово різні завдання.
SynthID вбудовує непомітний сигнал безпосередньо в піксельні дані під час генерації, а не прикріплює метадані, які можна видалити одним правим кліком. За даними тестування Ars Technica, водяний знак витримує жорсткий набір постобробки: стиснення JPEG, зміну розміру, обрізання, регулювання яскравості та контрасту, а також конвертацію колірного простору. Це суттєво вища планка, ніж у більшості схем підтвердження автентичності контенту, які руйнуються щойно зображення робиться скриншотом або повторно зберігається.
Для авторів, які генерують зображення за допомогою інструментів Google, ця довговічність є реальною. Якщо зображення покидає ваші руки й використовується без зазначення авторства, детектор, що підтримує SynthID, все одно може визначити його походження — за умови, що хтось запустить перевірку.
Проблема полягає в охопленні. SynthID маркує лише контент, згенерований власними моделями Google. Переважна більшість зображень ШІ, що циркулюють в мережі, створена за допомогою форків Stable Diffusion, Midjourney, Flux та десятків інших конвеєрів, які не мають інтеграції з SynthID. Зловмисник, який хоче поширити синтетичне зображення, просто використовує інструмент поза орбітою Google — і питання водяного знака взагалі не виникає.
Це не вада інженерії SynthID — це структурна прогалина в ширшій екосистемі. Автори, що працюють на кількох платформах або використовують моделі з відкритими вагами, доступні через каталог моделей Charmloop, створюватимуть зображення без жодного водяного знака — незалежно від того, наскільки досконала реалізація Google.
Навіть ідеально надійний і повсюдно прийнятий водяний знак стикається з проблемою часу. Вірусна дезінформація поширюється за хвилини; верифікація водяного знака — це крок, який вимагає від когось активно запустити перевірку. До того часу, як позначене зображення буде ідентифіковане як згенероване ШІ, воно вже може бути поширене сотні тисяч разів. Ars Technica зазначає, що маркування контенту ШІ зрештою може виявитися програшною грою саме з цієї причини — інфраструктури для перевірки водяних знаків зі швидкістю соціальних мереж просто ще не існує.
Для авторів AI-арту це має практичне значення в іншому напрямку: SynthID та подібні системи більш корисні як інструменти підтвердження походження — доведення того, що саме ви щось створили, — ніж як захисні бар'єри від дезінформації. Якщо ви формуєте портфоліо, ліцензуєте роботи або хочете встановити авторство, довговічний вбудований водяний знак є справжньою перевагою. Платформи та клієнти дедалі більше хочуть знати, звідки походить зображення, а сигнал, що витримує агресивне редагування, є більш достовірним, ніж тег метаданих.
Дослідники вказують на дві відсутні складові. По-перше, міжгалузеві стандарти водяного маркування: спільний рівень виявлення, який працює незалежно від того, чи зображення згенероване Google, OpenAI, Stability AI або локально запущеною моделлю з відкритими вагами. По-друге, примусове виконання на рівні платформ — соціальні мережі та пошукові системи, які перевіряють наявність водяних знаків до підсилення контенту, а не після надходження скарг.
Нічого з цього сьогодні не існує. Коаліція за автентичність і провенанс контенту (C2PA) працює над сумісними обліковими даними контенту, але поширення залишається нерівномірним, а стандарт не охоплює зображення, згенеровані інструментами, які просто відмовляються від участі.
Звіт Hugging Face про модерацію дипфейків, опублікований раніше цього року, наочно продемонстрував, наскільки широкою є ця прогалина відмови від участі — платформи, що розміщують відкриті моделі, мають мало стимулів вбудовувати відстежуваність, яку вони самі не розробляли.
Технічні показники SynthID справді вражають. Складніше питання — хто перевіряє, коли і на яких платформах — залишається без відповіді. Авторам, які хочуть зрозуміти, як інструменти провенансу ШІ взаємодіють з їхнім робочим процесом генерації зображень, варто уважно стежити за кривою поширення C2PA — саме там вирішуватиметься справжня битва за верифіковане авторство у сфері ШІ.
