София следит за деньгами, политикой и платформами, которые определяют, что могут создавать авторы.
Получай на почту главные истории недели об ИИ и ИИ-арте — отобранные, краткие, бесплатно.
Бесплатно. Отписаться можно в любой момент.
Выбери компаньона и узнай его мнение об этой истории
Генеральный директор Pangram Labs Макс Сперо заявляет, что интернет находится «опасно близко» к теории мёртвого интернета — сценарию, при котором автоматически генерируемый контент ИИ настолько вытесняет материалы, созданные людьми, что найти подлинный сигнал становится практически невозможно. Для создателей ИИ-арта этот диагноз имеет конкретный и непосредственный вес: инструменты, породившие этот поток, — те же самые, что формируют восприятие их работ.
Основной аргумент Сперо, изложенный в двух выступлениях на TechCrunch, состоит в том, что обнаружение ИИ — не простая бинарная задача: большинство современного контента представляет собой гибрид человеческого замысла и машинного исполнения — именно так и работают создатели ИИ-арта. Промпт, написанный человеком, доработанный в процессе итераций и отрендеренный диффузионной моделью, находится в серой зоне, с которой нынешние классификаторы справляются плохо. Эта неоднозначность — не баг в задаче обнаружения, а сама суть проблемы.
Практическое следствие: платформы, создающие пайплайны обнаружения, будут генерировать ложные срабатывания. ИИ-иллюстрация, поданная в стоковую библиотеку, синтетический фон, вставленный в фото товара, или изображение, увеличенное с помощью ИИ в портфолио, — всё это может вызвать срабатывание флагов, разработанных для борьбы со страховым мошенничеством или фейковыми отзывами. Создатели, использующие генерацию изображений с помощью ИИ как профессиональный инструмент, находятся в зависимости от пороговых значений, которые устанавливают эти платформы, — а сейчас эти пороги калибруются по злоумышленникам, а не по художникам.
Генеральный директор Pangram Макс Сперо утверждает, что обнаружение ИИ требует вероятностного суждения, а не бинарного теста «настоящее или фейк».
Изображение: TechCrunch / TechCrunch AI
Концепция мёртвого интернета важна не только как философская категория. Когда Сперо говорит, что интернет «опасно близок» к этому состоянию, он описывает структурный сдвиг в том, как платформы присваивают доверие контенту, — а оценки доверия всё больше определяют дистрибуцию. Социальные ленты уже подавляют контент, помеченный как низкокачественный или синтетический. Если эта логика подавления распространится на ИИ-арт без каких-либо нюансов, создатели, зависящие от органического охвата для построения аудитории, столкнутся с алгоритмическим встречным ветром, не имеющим никакого отношения к качеству их работ.
Это не гипотетическая траектория. Шаг Instagram в начале этого года по ограничению охвата нераскрытых ИИ-профилей — освещённый в репортаже Charmloop о новой метке платформы для профилей, созданных ИИ, — показывает, что крупные платформы уже встраивают штрафы за дистрибуцию в свою политику в отношении контента ИИ. Вопрос в том, где эти штрафы остановятся.
Pangram — не нейтральный наблюдатель. Компания продаёт услуги по обнаружению, и чем страшнее нарратив о мёртвом интернете, тем убедительнее коммерческий аргумент. Это не означает, что Сперо ошибается — страховые претензии, созданные ИИ, и фейковые отзывы являются реальными и задокументированными проблемами, — но это означает, что создаваемые инструменты обнаружения оптимизированы под наиболее высокорисковые случаи мошенничества, а не под нюансированное творчество на основе согласия, которое определяет большинство ИИ-арта.
Когда Stability AI в 2023 году столкнулась с первым давлением вокруг происхождения обучающих данных, негативная реакция повлияла на то, как все последующие модели изображений раскрывали источники своих датасетов. Аналогичная динамика формируется вокруг обнаружения: стандарты, устанавливаемые сейчас стартапами вроде Pangram и корпоративными клиентами, платящими за их API, определят, что будет считаться «подлинным» контентом на платформах, где создатели распространяют свои работы.
Создатели, желающие понять, как их инструменты и результаты, вероятно, будут классифицированы, могут начать с изучения того, какие сигналы на самом деле ищут детекторы: артефакты диффузии, паттерны метаданных, статистические закономерности в генерируемых изображениях. Руководства Charmloop по промптингу и выбору моделей — одно из мест, где можно получить эту техническую базу.
Следующая конкретная точка давления — регуляторная: Закон ЕС об ИИ требует раскрытия информации о контенте, созданном ИИ, в определённых контекстах начиная с августа 2026 года, устанавливая для платформ юридический дедлайн для операционализации обнаружения или раскрытия в масштабе. То, как они интерпретируют понятие «созданный ИИ» — как бинарное или как спектр, — определит, станут ли инструменты, которые создатели используют сегодня, обязательством завтра.
