Создай бесплатный аккаунт Charmloop — без карты и без ограничений на просмотр. Начни создавать ИИ-арт за пару минут.
Сообщества фанфикшена развернули организованную кампанию по выявлению и удалению историй, написанных с помощью ИИ, с таких платформ, как AO3. Однако методы обнаружения, на которых строится эта кампания, дают ложные срабатывания и затрагивают живых авторов.
Для создателей ИИ-арта логика обнаружения кажется интуитивно понятной: артефакты, характерные паттерны апскейлинга, анатомические ошибки и метаданные — всё это может служить сигналами. С текстом сложнее. Надёжного аналога EXIF-данных для прозы не существует, а статистические сигналы, которые используют такие инструменты, как GPTZero или детектор Turnitin, в лучшем случае носят вероятностный характер. Исследователи неоднократно демонстрировали, что эти инструменты помечают тексты, написанные людьми, — особенно теми, для кого английский не родной, или теми, кто предпочитает формальные либо повторяющиеся синтаксические конструкции, — с такой частотой, которая делает их непригодными для правоприменения.
Однако это не мешает сообществам использовать их как нечто окончательное. По данным The Verge, нынешняя волна активности уже имеет реальные последствия для авторов, чьи работы были оспорены или удалены исключительно на основании оценок детекторов.
Claude и ChatGPT — два инструмента, которые чаще всего называются в публичных обвинениях сообщества, что отражает их доминирование как универсальных помощников для письма. Claude от Anthropic стал особой точкой напряжённости — отчасти потому, что его тексты обладают узнаваемой интонацией, которую опытные читатели, по их словам, умеют распознавать, а отчасти потому, что некоторые авторы открыто рассказывали об использовании этого инструмента для черновиков. Является ли это распознавание подлинным выявлением паттернов или предвзятостью подтверждения — открытый вопрос, на который детекторы ответить не могут.
Практическая проблема для любого автора, использующего инструменты ИИ хотя бы частично — для мозгового штурма, редактуры или генерации одной сцены, — состоит в том, что частичное использование невидимо для детекторов. Эти инструменты оценивают документ целиком, а не отдельные абзацы, и документ, написанный на 90% человеком, всё равно может получить высокую вероятность ИИ-авторства — в зависимости от того, каким фрагментам модель придаёт наибольший вес.
Более непосредственное последствие для авторов — не само обнаружение, а самоцензура. Авторы, использующие инструменты ИИ на любом этапе работы, включая реферирование источников или проверку грамматики, теперь взвешивают, стоит ли раскрывать это, и не повлечёт ли само раскрытие дополнительных подозрений. Авторы, вовсе не использующие ИИ, но пишущие в стилях, которые детекторы помечают как подозрительные, — плотная проза, необычный синтаксис, очень ровный ритм предложений, — обнаруживают, что опровергнуть подозрения сообщества крайне сложно.
Это зеркально отражает динамику, уже проявившуюся в пространствах ИИ-арта, где сходство стиля с известными ИИ-работами использовалось для оспаривания авторства живых художников. Разница в том, что у изображений есть хотя бы некоторые криминалистические инструменты с частичной надёжностью; текстовые сообщества действуют почти исключительно на основе интуиции и вероятностных оценок.
Конфликт вокруг фанфикшена — ранний и необычно заметный пример более широкой закономерности: творческие сообщества устанавливают собственные нормы правоприменения в отношении ИИ быстрее, чем какие-либо надёжные технологии обнаружения способны эти нормы поддержать. Именно в разрыве между тем, что сообщества хотят пресечь, и тем, что инструменты реально могут доказать, и живут ложные срабатывания.
Для всех, кто использует инструменты ИИ в любом контексте творческого письма — не только в фанфикшене, — практический вывод таков: стандарты сообществ движутся независимо от технической реальности. Авторы, открыто рассказывающие о своих рабочих процессах, возможно, вызовут меньше подозрений, чем те, кто этого не делает, — однако сама по себе прозрачность несёт риски в пространствах, где любое использование ИИ считается дисквалифицирующим. Инструменты не разрешат это противоречие в обозримом будущем.
