Получай на почту главные истории недели об ИИ и ИИ-арте — отобранные, краткие, бесплатно.
Бесплатно. Отписаться можно в любой момент.
Substack запустил функцию обнаружения ИИ, которая оценивает долю текста рассылки, написанного искусственным интеллектом, и делает эту оценку видимой для читателей — шаг, ставящий каждого автора на платформе, использующего ИИ, под новый пристальный взгляд.
Новый инструмент Substack показывает оценку ИИ-написания непосредственно читателям рассылки.
Изображение: TechCrunch / TechCrunch AI
По данным TechCrunch, функция предоставляет читателям процентную оценку того, какая часть конкретного выпуска создана ИИ, — показатель, полученный с помощью моделей обнаружения, анализирующих паттерны письма. Substack не раскрыл, какую именно технологию обнаружения использует, и компания не объявила, будет ли высокий процент ИИ влечь какие-либо штрафы в отношении монетизации или дистрибуции.
Эта неопределённость важна. Авторы, использующие инструменты ИИ для резюмирования исследований, черновиков заголовков или структурных набросков — а не для полной генерации текста — могут обнаружить, что их работа помечается с частотой, не отражающей реальный процесс. Инструменты обнаружения ИИ имеют задокументированную проблему ложноположительных результатов: хорошо структурированная, отредактированная проза может восприниматься как машинно-сгенерированная, даже если каждое слово написано человеком.
Шаг Substack вписывается в чёткую закономерность. YouTube обновил свою политику монетизации, прямо запретив низкокачественному ИИ-контенту получать доход от рекламы, а Patreon заключил партнёрство с Cloudflare для блокировки скраперов, обучающих ИИ. Каждый из этих шагов представляет собой разную точку давления — YouTube бьёт по кошельку, Patreon защищает конвейер данных, а Substack теперь напрямую воздействует на доверие читателей.
Формулировка, ориентированная на читателя, — самый острый инструмент здесь. Штраф за монетизацию происходит за кулисами; видимая метка с процентом ИИ на рассылке формирует восприятие автора подписчиками ещё до того, как они прочитают хоть одно предложение. Для авторов, выстроивших аудиторию на основе голоса и аутентичности, такая метка — даже неточная — является репутационным риском.
Для авторов, включающих инструменты ИИ в свой рабочий процесс, расчёт меняется. Слегка отредактированные черновики ИИ, которые раньше не раскрывались, теперь несут видимую пометку. Авторы, использующие ИИ для структурного каркаса, но существенно переписывающие текст, всё равно могут быть помечены — без какого-либо механизма на платформе для оспаривания или контекстуализации оценки.
Более разумный ответ — превентивное раскрытие информации. Авторы, открыто описывающие свой процесс с использованием ИИ — в примечании к подписи или вводном абзаце — могут переосмыслить оценку детектора как подтверждение, а не обвинение. Такой подход к прозрачности также, как правило, лучше воспринимается аудиторией, которая стала скептически относиться к нераскрытому использованию ИИ, — скептицизм, усиливающийся по мере того, как инструменты обнаружения становятся стандартной инфраструктурой.
Также стоит следить за тем, влияет ли функция Substack на алгоритмы рекомендаций или обнаружения контента. Если высокий процент ИИ незаметно подавляет дистрибуцию — даже без официальной политики — авторы не смогут об этом узнать. Платформа публично не ответила на этот вопрос.
Для авторов, работающих с текстом и генерацией изображений, эта динамика знакома: инструменты, ускоряющие производство, также делают происхождение контента более заметным. Сфера генерации изображений с помощью ИИ годами борется с дебатами о водяных знаках и происхождении; текст теперь догоняет. Разница в том, что водяные знаки на изображениях зачастую невидимы конечным пользователям, тогда как процентная метка Substack находится на переднем плане — намеренный выбор сделать использование ИИ атрибутом, видимым читателю, а не сигналом серверной модерации.
То, насколько точным окажется обнаружение Substack на практике, определит, укрепит ли эта функция доверие или просто породит тревогу. В любом случае эпоха необнаруженных рассылок с использованием ИИ на платформе фактически завершена.
