Обери компаньйона і дізнайся його думку про цю історію
Схожі статті
Згенероване штучним інтелектом зображення актриси Міа Гот поширилося в Instagram з акаунту з блакитною галочкою верифікації — фейкового — перш ніж платформа його видалила, а її представники назвали інцидент «незбагненним».
Ключові висновки
Акаунт Instagram під назвою miagoth_ — не справжній акаунт Гот — мав блакитну позначку верифікації та опублікував згенероване ШІ зображення актриси у провокаційній футболці з написом, приуроченій до її реального подання на розлучення.
Представники Гот повідомили The Verge, що зображення є підробленим, і описали нездатність Instagram виявити це як «незбагненну».
Реалістичність зображення та наявність верифікованої позначки — два чинники, що зумовили його вірусне поширення, — поєднання, яке має насторожити будь-якого творця, що працює з образами реальних людей у ШІ.
Система верифікації Instagram, що продається через підписки Meta Verified, не гарантує надійно, що акаунт належить особі, яку він стверджує представляти.
Наразі на Instagram немає обов'язкової платформної вимоги щодо маркування ШІ-контенту, яка б позначила це зображення під час завантаження.
Згенероване ШІ зображення, що поширилося з фейкового верифікованого акаунту Instagram miagoth_, приурочене до реальних новин про розлучення Гот.
Як фейкова верифікована позначка перетворила дипфейк на новину
Механіку цього варто зрозуміти точно. На початку цього місяця Міа Гот подала на розлучення з Шайа ЛаБафом — реальна, широко висвітлювана історія. Після цього акаунт miagoth_ опублікував згенероване ШІ фото Гот у футболці з написом «MY EX IS MY BIGGEST FAN» жирними чорними літерами. Блакитна галочка надала публікації миттєвої достовірності. Звичайні користувачі, і навіть деякі журналісти, сприйняли її як справжню. За даними The Verge, її представники описали ситуацію як незбагненну, зважаючи на те, що Instagram дозволив їй поширитися.
Верифікована позначка — ось у чому суть. Meta Verified — платний рівень верифікації Instagram — надає галочку передплатникам, які подають державне посвідчення особи, але перевіряє особу відносно того, хто подає документи, а не відносно імені чи образу, який відображає акаунт. Зловмисник може оплатити підписку, верифікуватися як він сам, а потім вести акаунт, видаючи себе за іншу людину. Позначка, яку користувачі сприймають як «це справді вона», насправді означає дещо значно вужче.
Проблема реалістичності тепер є відповідальністю творця
Для всіх, хто генерує ШІ-зображення реальних людей — редакційні ілюстрації, фан-арт, сатиричні колажі — цей інцидент проводить чітку межу між тим, що технічно можливо, і тим, що є юридично та етично виправданим. Зображення Гот, за повідомленнями, настільки переконливе, що поширювалося як справжнє. Такий рівень фотореалізму тепер досяжний за допомогою споживчих генераторів зображень — і саме ця можливість робить контекст і маркування обов'язковими.
Якщо ви генеруєте реалістичне зображення реальної людини для будь-яких цілей, нинішнє середовище платформ не пропонує майже жодної страховки. Instagram не має обов'язкової вимоги щодо розкриття інформації про ШІ під час завантаження. Детектор SynthID від Google може ідентифікувати водяні знаки ШІ від певних генераторів, але лише якщо зображення було позначено водяним знаком під час створення — а більшість робочих процесів не забезпечують цього за замовчуванням. У нашому попередньому матеріалі про сайт детектора SynthID від Google зазначалося, що він тепер може зчитувати водяні знаки від кількох постачальників, але впровадження на стороні творців залишається добровільним і непослідовним.
Практичний висновок: якщо ваш робочий процес передбачає генерацію фотореалістичних зображень конкретних осіб — навіть для явно сатиричних цілей — ви повинні явно маркувати ці зображення в підписі та альтернативному тексті, а не покладатися на платформу. Це звичка на рівні промпту та експорту, а не функція платформи.
Що означає прогалина у відповідальності платформ прямо зараз
Інцидент із Гот — це стрес-тест, який Instagram провалив на очах у всіх. Поєднання переконливого ШІ-зображення, верифікованої позначки та своєчасного реального новинного приводу — не рідкісний граничний випадок, а відтворювана формула. У міру того як якість ШІ-зображень продовжує покращуватися, візуальна різниця між згенерованою фотографією та справжньою для більшості глядачів прямує до нуля.
Це важливо і для законослухняних творців. Реакція на подібні інциденти, як правило, породжує жорсткі платформні політики: ширші заборони на згенеровані ШІ образи реальних людей, суворіші фільтри завантаження або обов'язкові вимоги до водяних знаків, що стосуються кожного творця незалежно від намірів. Тривале законодавче безладдя в Конгресі щодо авторського права та конфіденційності у сфері ШІ означає, що виконання на рівні платформ — хоч би яким непослідовним воно не було — найближчим часом, мабуть, залишатиметься основним механізмом контролю.
Якщо ви досліджуєте генерацію ШІ-зображень і хочете зрозуміти, де нині стоять інструменти щодо реалістичності та маркування, каталог моделей Charmloop документує, які генератори застосовують водяні знаки за замовчуванням, а які ні — відмінність, що щотижня стає дедалі менш академічною.
