Załóż darmowe konto Charmloop — bez karty, bez limitów przeglądania. Zacznij tworzyć sztukę AI w kilka minut.
Społeczności fanfiction rozpoczęły zorganizowaną kampanię mającą na celu identyfikację i usuwanie historii generowanych przez AI z platform takich jak AO3, jednak stosowane metody wykrywania produkują fałszywe alarmy, które wciągają w tę sieć ludzkich autorów.
Dla twórców sztuki AI logika wykrywania wydaje się intuicyjna — artefakty, charakterystyczne wzorce skalowania, błędy anatomiczne i metadane mogą służyć jako sygnały. Z tekstem jest trudniej. Nie istnieje wiarygodny odpowiednik danych EXIF dla prozy, a sygnały statystyczne, na których opierają się narzędzia takie jak GPTZero czy detektor Turnitin, mają w najlepszym razie charakter probabilistyczny. Badacze wielokrotnie wykazali, że narzędzia te oznaczają teksty pisane przez ludzi — zwłaszcza przez osoby nieanglojęzyczne lub autorów preferujących formalne bądź powtarzalne struktury zdań — z częstotliwością, która dyskwalifikuje je jako narzędzia egzekwowania zasad.
Nie powstrzymało to jednak społeczności przed używaniem ich tak, jakby były rozstrzygające. Jak podaje The Verge, obecna fala aktywności przyniosła realne konsekwencje dla autorów, których prace zostały zakwestionowane lub usunięte wyłącznie na podstawie wyników detektorów.
Claude i ChatGPT to dwa narzędzia najczęściej wymieniane z nazwy w społecznościowych doniesieniach, co odzwierciedla ich dominację jako asystentów pisania ogólnego przeznaczenia. Claude firmy Anthropic stał się szczególnym punktem zapalnym — częściowo dlatego, że jego teksty mają rozpoznawalną kadencję, którą doświadczeni czytelnicy twierdzą, że potrafią wyczuć, a częściowo dlatego, że niektórzy autorzy otwarcie mówili o używaniu go do szkicowania. Czy owo rozpoznanie jest prawdziwym dopasowywaniem wzorców, czy też efektem potwierdzenia — to otwarte pytanie, na które narzędzia wykrywania nie potrafią odpowiedzieć.
Praktyczny problem dla każdego autora, który korzysta z narzędzi AI choćby częściowo — do burzy mózgów, redakcji, wygenerowania jednej sceny — polega na tym, że częściowe użycie jest dla detektorów niewidoczne. Narzędzia te oceniają całe dokumenty, a nie poszczególne akapity, i dokument napisany w 90% przez człowieka może nadal uzyskać wysoki wynik prawdopodobieństwa AI, w zależności od tego, którym fragmentom model przypisuje największą wagę.
Bezpośredniejszą konsekwencją dla autorów nie jest wykrycie — lecz autocenzura. Autorzy korzystający z narzędzi AI w jakiejkolwiek części swojego procesu twórczego, w tym do streszczania materiałów badawczych czy sprawdzania gramatyki, zastanawiają się teraz, czy to ujawnić, i czy samo ujawnienie nie przyciągnie podejrzeń. Autorzy, którzy w ogóle nie używają narzędzi AI, ale piszą w stylach oznaczanych przez detektory — gęsta proza, niecodzienna składnia, bardzo równomierny rytm zdań — odkrywają, że podejrzeń społeczności trudno się wyprzeć.
Odzwierciedla to dynamikę, która rozegrała się w przestrzeniach sztuki AI, gdzie podobieństwo stylu do znanych wyników AI było wykorzystywane do kwestionowania prac ludzkich artystów. Różnica polega na tym, że społeczności obrazkowe dysponują przynajmniej kilkoma narzędziami kryminalistycznymi o częściowej wiarygodności; społeczności tekstowe działają niemal wyłącznie na podstawie intuicji i wyników probabilistycznych.
Konflikt wokół fanfiction to wczesny i wyjątkowo widoczny przykład szerszego wzorca: społeczności twórcze ustalają własne normy egzekwowania zasad dotyczących AI szybciej, niż jakakolwiek wiarygodna technologia wykrywania jest w stanie te normy wesprzeć. Luka między tym, co społeczności chcą egzekwować, a tym, co narzędzia są w stanie faktycznie udowodnić, to właśnie przestrzeń, w której żyją fałszywe alarmy.
Dla każdego, kto używa narzędzi AI w jakimkolwiek kontekście twórczego pisania — nie tylko fanfiction — praktyczny wniosek jest taki, że standardy społecznościowe ewoluują niezależnie od technicznej rzeczywistości. Autorzy transparentni w kwestii swoich procesów twórczych mogą wzbudzać mniej podejrzeń niż ci, którzy nie są, ale sama transparentność niesie ryzyko w przestrzeniach, gdzie jakiekolwiek użycie AI jest traktowane jako dyskwalifikujące. Narzędzia nie rozwiążą tego napięcia w najbliższym czasie.
