Створи безкоштовний акаунт Charmloop — без картки й без обмежень на перегляд. Почни створювати ШІ-арт за лічені хвилини.
Спільноти фанфікшену розгорнули організовану кампанію з виявлення та видалення згенерованих ШІ історій із таких платформ, як AO3, однак методи виявлення, що рухають цю кампанію, дають хибні спрацьовування — і живі автори потрапляють під загальну гребінку.
Для творців ШІ-арту логіка виявлення здається інтуїтивно зрозумілою: артефакти, характерні патерни апскейлінгу, анатомічні помилки та метадані — усе це може слугувати сигналами. З текстом складніше. Надійного аналога EXIF-даних для прози не існує, а статистичні сигнали, які використовують такі інструменти, як GPTZero або детектор Turnitin, є в кращому разі імовірнісними. Дослідники неодноразово доводили, що ці інструменти позначають написані людиною тексти — особливо тих, для кого англійська не є рідною, або авторів із формальним чи повторюваним синтаксисом — із частотою, що робить їх непридатними для правозастосування.
Проте це не завадило спільнотам використовувати їх як остаточний вирок. За даними The Verge, нинішня хвиля активності вже мала реальні наслідки для авторів, чиї роботи були оскаржені або видалені виключно на підставі балів детектора.
Claude та ChatGPT — два інструменти, що найчастіше згадуються в публічних звинуваченнях спільноти, що відображає їхнє домінування як універсальних помічників для письма. Claude від Anthropic став особливою точкою напруги — частково через те, що його тексти мають впізнаваний ритм, який досвідчені читачі, за їхніми словами, вміють розпізнати, а частково через те, що деякі автори відкрито говорили про використання цього інструменту для чернеток. Чи є таке розпізнавання справжнім патерн-матчингом або лише упередженістю підтвердження — відкрите питання, на яке інструменти виявлення не можуть дати відповіді.
Практична проблема для будь-якого автора, який використовує інструменти ШІ хоча б частково — для мозкового штурму, редагування або генерації однієї сцени, — полягає в тому, що часткове використання невидиме для детекторів. Ці інструменти оцінюють документ цілком, а не окремі абзаци, і документ, написаний на 90% людиною, може отримати високий показник імовірності ШІ — залежно від того, яким уривкам модель надає найбільшої ваги.
Безпосередніший наслідок для авторів — не виявлення, а самоцензура. Автори, які використовують інструменти ШІ для будь-якої частини свого процесу, включно з узагальненням досліджень або перевіркою граматики, тепер зважують, чи варто це розкривати, і чи не стане саме розкриття приводом для підозр. Автори, які взагалі не використовують ШІ, але пишуть у стилі, що спрацьовує в детекторах, — щільна проза, незвичний синтаксис, дуже рівномірний ритм речень, — виявляють, що спростувати підозри спільноти вкрай важко.
Це нагадує динаміку, що вже розгорталася в просторах ШІ-арту, де стилістична схожість із відомими ШІ-роботами використовувалася для оскарження творів живих художників. Різниця в тому, що в зображеннях спільноти мають хоча б деякі криміналістичні інструменти з частковою надійністю; текстові спільноти діють майже виключно на основі відчуттів та імовірнісних балів.
Конфлікт у фанфікшені — ранній і надзвичайно помітний приклад ширшої закономірності: творчі спільноти встановлюють власні норми щодо використання ШІ швидше, ніж будь-яка надійна технологія виявлення може підтримати ці норми. Саме в розриві між тим, що спільноти хочуть контролювати, і тим, що інструменти насправді можуть довести, і живуть хибні спрацьовування.
Для всіх, хто використовує інструменти ШІ в будь-якому контексті творчого письма — не лише у фанфікшені, — практичний висновок такий: стандарти спільнот рухаються незалежно від технічної реальності. Автори, які відкрито говорять про свої робочі процеси, можуть зіткнутися з меншою підозрою, ніж ті, хто мовчить, — але відкритість сама по собі несе ризик у просторах, де будь-яке використання ШІ вважається дискваліфікуючим. Інструменти не вирішать цю суперечність найближчим часом.
