Выбери компаньона и узнай его мнение об этой истории
Похожие статьи
ИИ-сгенерированное изображение актрисы Миа Гот распространилось по Instagram с аккаунта с синей галочкой верификации — поддельной — прежде чем платформа удалила его, а её представители назвали инцидент «необъяснимым».
Ключевые выводы
Аккаунт Instagram под именем miagoth_ — не настоящий аккаунт Гот — имел синий верификационный значок и опубликовал ИИ-сгенерированное изображение актрисы в провокационной футболке со слоганом, приуроченное к реальной подаче ею заявления о разводе.
Представители Гот сообщили The Verge, что изображение является фальсификацией, и охарактеризовали неспособность Instagram его отследить как «необъяснимую».
Реалистичность изображения и наличие верификационного значка стали двумя факторами, обеспечившими его вирусное распространение, — сочетание, которое должно насторожить любого создателя, работающего с ИИ-образами реальных людей.
Система верификации Instagram, продаваемая через подписку Meta Verified, не гарантирует надёжного подтверждения того, что аккаунт принадлежит именно тому человеку, за которого себя выдаёт.
В настоящее время на Instagram не существует обязательного платформенного требования маркировки ИИ-контента, которое позволило бы пометить это изображение в момент загрузки.
ИИ-сгенерированное изображение, распространившееся с фейкового верифицированного аккаунта Instagram miagoth_, приуроченное к реальным новостям о разводе Гот.
Как поддельная галочка превратила дипфейк в новостной повод
Механику произошедшего стоит понять в деталях. В начале этого месяца Миа Гот подала на развод с Шайей ЛаБафом — реальная, широко освещавшаяся история. Затем аккаунт miagoth_ опубликовал ИИ-сгенерированную фотографию Гот в футболке с надписью «MY EX IS MY BIGGEST FAN» жирными чёрными буквами. Синяя галочка придала публикации мгновенную достоверность. Случайные пользователи, листающие ленту, и даже некоторые журналисты восприняли её как настоящую. По данным The Verge, её представители описали ситуацию как необъяснимую, учитывая, что Instagram позволил ей распространиться.
Верификационный значок — вот в чём суть проблемы. Meta Verified — платный уровень верификации Instagram — предоставляет галочку подписчикам, предъявившим государственный удостоверяющий документ, однако верифицирует личность относительно самого заявителя, а не имени или образа, который демонстрирует аккаунт. Злоумышленник может оплатить подписку, пройти верификацию как самого себя, а затем вести аккаунт, выдавая себя за другого человека. Значок, который пользователи воспринимают как «это действительно она», на самом деле означает нечто значительно более узкое.
Проблема реалистичности теперь — ответственность создателя
Для всех, кто генерирует ИИ-изображения реальных людей — редакционные иллюстрации, фан-арт, сатирические коллажи — этот инцидент проводит чёткую границу между тем, что технически возможно, и тем, что юридически и этически оправданно. Изображение Гот, по имеющимся данным, оказалось достаточно убедительным, чтобы распространяться как подлинное. Такой уровень фотореализма теперь достижим с помощью потребительских генераторов изображений — именно эта возможность делает контекст и маркировку обязательными, а не опциональными.
Если вы генерируете реалистичное изображение реального человека в любых целях, нынешняя платформенная среда практически не предоставляет страховочной сети. В Instagram нет обязательного требования раскрывать использование ИИ при загрузке. Детектор SynthID от Google может идентифицировать ИИ-водяные знаки от определённых генераторов, но только если изображение было помечено водяным знаком при создании — а большинство рабочих процессов не обеспечивают этого по умолчанию. В нашем предыдущем материале о сайте детектора SynthID от Google отмечалось, что он теперь умеет считывать водяные знаки от нескольких провайдеров, однако внедрение на стороне создателей остаётся добровольным и непоследовательным.
Практический вывод: если ваш рабочий процесс предполагает генерацию фотореалистичных изображений конкретных людей — даже в явно сатирических целях — вы должны явно маркировать эти изображения в подписи и альтернативном тексте, а не рассчитывать, что платформа сделает это за вас. Это привычка на уровне промпта и экспорта, а не функция платформы.
Что означает пробел в ответственности платформ прямо сейчас
Инцидент с Гот — это стресс-тест, который Instagram провалил на виду у всех. Сочетание убедительного ИИ-изображения, верификационного значка и своевременного реального новостного повода — не редкий пограничный случай, а воспроизводимая формула. По мере того как качество ИИ-изображений продолжает улучшаться, визуальный разрыв между сгенерированной фотографией и настоящей стремится к нулю для большинства зрителей.
Это важно и для добросовестных создателей. Реакция на подобные инциденты, как правило, порождает жёсткие политики платформ: более широкие запреты на ИИ-сгенерированные образы реальных людей, более строгие фильтры при загрузке или обязательные требования к водяным знакам, затрагивающие всех создателей вне зависимости от их намерений. Продолжающийся законодательный тупик в Конгрессе по вопросам авторского права и конфиденциальности в сфере ИИ означает, что платформенное правоприменение — каким бы непоследовательным оно ни было — в обозримом будущем, по всей видимости, останется основным инструментом контроля.
Если вы изучаете генерацию ИИ-изображений и хотите понять, на каком уровне находятся современные инструменты в плане реалистичности и маркировки, каталог моделей Charmloop документирует, какие генераторы применяют водяные знаки по умолчанию, а какие нет, — различие, которое с каждой неделей становится всё менее академическим.
