Обери компаньйона і дізнайся його думку про цю історію
Схожі статті
Автоматичні мітки «AI Content» в Instagram застосовуються до зображень, які ніколи не створювалися й не редагувалися за допомогою інструментів ШІ — масштабний збій, що публічно хибно ідентифікує оригінальні роботи авторів як синтетичні.
Головне
Instagram автоматично позначає фото, зроблені людьми, міткою «AI Content», згідно з The Verge, попри те що ці зображення не мають жодного стосунку до генеративного ШІ.
Схоже, система спрацьовує на метадані стандартного програмного забезпечення для редагування, а не на фактичну генерацію ШІ.
Автори не можуть легко оскаржити або видалити мітку після того, як Instagram її застосував.
Помилкові мітки впливають на те, як аудиторія сприймає авторство — хибна мітка має реальну репутаційну вагу в мистецьких спільнотах.
На момент написання цього матеріалу Meta не оголосила про виправлення або терміни його впровадження.
Коли мітка стає звинуваченням
Мета мітки AI Content в Instagram проста: дати глядачам швидкий сигнал про те, що зображення створено за допомогою генеративних інструментів. Реалізація наразі — зовсім інша. Упродовж останніх тижнів фотографи та ілюстратори повідомляють, що мітка з'являється на роботах, знятих на камеру, намальованих від руки та відредагованих лише у звичайному програмному забезпеченні — корекція в Lightroom, ретуш у Photoshop, звичайна цифрова обробка.
Найімовірніша причина — метадані. Певні програми для редагування вбудовують теги у файли зображень, які система виявлення Instagram, схоже, сприймає як свідчення участі ШІ, навіть якщо жодна генеративна модель не використовувалася. Штамп відновлення, інструмент заміни неба, навіть деякі пресети експорту можуть спрацювати як тригер. Система зчитує відбитки сучасного програмного забезпечення, а не наявність синтетичних пікселів.
Спливаюче вікно, яке Instagram показує, коли глядач натискає на мітку 'AI Content' — тепер воно з'являється і на деяких фото, зроблених людьми.
Для авторів практична шкода має два виміри. По-перше, проблема аудиторії: глядач, який бачить мітку на пейзажній фотографії, цілком обґрунтовано припустить, що сцена була згенерована, а не знята. У спільнотах, де автентичність є валютою — художня фотографія, документальні роботи, ілюстрації персонажів від руки — таке припущення руйнує довіру, яку будували роками. По-друге, проблема платформи: політика маркування Instagram пов'язана з її ширшим курсом на забезпечення цілісності контенту, а автори, яких помилково позначено, мають мало можливостей для захисту. Немає прозорого шляху для оскарження, немає чіткого пояснення, чому конкретне зображення було позначено.
Добірка зображень, що отримали мітку AI Content в Instagram, деякі з яких, за повідомленнями, були створені без будь-яких генеративних інструментів ШІ.
Це створює незручну напругу з паралельним кроком Instagram щодо обмеження охоплення нерозкритих профілів ШІ — політикою, яку Charmloop висвітлював, коли Instagram обмежив акаунти ШІ-персон і перейменував мітку розкриття інформації. Та ініціатива принаймні була спрямована на реальне використання ШІ. Нинішні помилкові спрацювання роблять протилежне: вони карають людське авторство, хибно класифікуючи його.
Що насправді потрібне для точного виявлення
Глибша проблема полягає в тому, що бінарне маркування — ШІ чи не ШІ — погано відповідає тому, як насправді створюються зображення у 2025 році. Портрет може бути знятий на плівку, відсканований, оброблений за допомогою інструменту на основі нейронної мережі на одному етапі, а потім завершений вручну. Де починається «контент ШІ»? Meta не оприлюднила критерії виявлення, що робить систему непередбачуваною для авторів.
Для тих, хто публікує оригінальні роботи в Instagram, практична відповідь наразі — документування. Зберігайте вихідні файли, журнали експорту та записи версій програмного забезпечення. Якщо мітка з'явилася на справжній роботі, цей паперовий слід є єдиним наявним доказом — навіть якщо платформа наразі не пропонує офіційного місця для його подання.
Ширша проблема виявлення — це те, що галузь досі вирішує. Як стверджував генеральний директор Pangram Labs Макс Сперо, потік контенту, згенерованого ШІ, робить інструменти масового виявлення одночасно більш нагальними й більш схильними до помилок — напруга, яку Charmloop розглядав у своєму матеріалі про виявлення ШІ та проблему мертвого інтернету.
Систему Meta, мабуть, буде перекалібровано. До того часу мітка, призначена для позначення синтетичних зображень, позначає людські — що є, по-своєму, більш руйнівним результатом, ніж повна відсутність мітки.
