Fanfiction-Communities haben eine organisierte Kampagne gestartet, um KI-generierte Geschichten von Plattformen wie AO3 zu identifizieren und zu entfernen – doch die dabei eingesetzten Erkennungsmethoden produzieren falsch-positive Ergebnisse, die auch menschliche Autoren in den Strudel ziehen.
Die wichtigsten Punkte
- Fanfiction-Communities, insbesondere auf AO3, haben eine koordinierte Bewegung ins Leben gerufen, um Geschichten aufzuspüren, die mit Claude, ChatGPT und anderen generativen KI-Tools verfasst wurden.
- Die eingesetzten KI-Erkennungstools gelten unter Forschern als weitgehend unzuverlässig – sie markieren stilistische Eigenheiten, die auch im menschlichen Schreiben vorkommen, besonders bei Nicht-Muttersprachlern oder Autoren mit unkonventionellem Stil.
- Kein derzeit verfügbarer KI-Detektor kann KI-generierten Text mit hoher Genauigkeit zuverlässig von menschlichem Text unterscheiden; falsch-positive Raten sind bei allen gängigen Tools ein dokumentiertes Problem.
- Der Gegenwind verändert, wie Autoren in öffentlich zugänglichen kreativen Räumen über ihre Tools und Arbeitsweisen sprechen – unabhängig davon, ob sie KI einsetzen oder nicht.
- Der Konflikt legt eine Spannung offen, die spezifisch für den textbasierten KI-Einsatz ist: Anders als KI-generierte Bilder hinterlässt KI-geschriebene Prosa keinen zuverlässigen forensischen Fingerabdruck.
Warum KI-Texterkennung ein anderes Problem ist als Bilderkennung
Für KI-Kunstschaffende wirkt die Logik der Erkennung intuitiv – Artefakte, verräterische Hochskalierungsmuster, anatomische Fehler und Metadaten können allesamt als Signale dienen. Bei Texten ist das schwieriger. Es gibt kein zuverlässiges Äquivalent zu EXIF-Daten für Prosa, und die statistischen Signale, die Tools wie GPTZero oder der Detektor von Turnitin verwenden, sind bestenfalls probabilistischer Natur. Forscher haben wiederholt nachgewiesen, dass diese Tools menschlich verfasste Texte markieren – insbesondere Texte von Nicht-Muttersprachlern oder Autoren, die formale oder repetitive Satzstrukturen bevorzugen – und zwar in einem Ausmaß, das sie für Durchsetzungsmaßnahmen ungeeignet macht.
Das hat Communities nicht davon abgehalten, sie so einzusetzen, als wären sie eindeutig aussagekräftig. Laut The Verge hat die aktuelle Aktivitätswelle reale Konsequenzen für Autoren gezeitigt, deren Werke allein aufgrund von Detektorwerten angefochten oder entfernt wurden.
Die spezifischen Modelle im Fadenkreuz
Claude und ChatGPT sind die beiden Tools, die in Community-Aufrufen am häufigsten namentlich genannt werden – ein Spiegelbild ihrer Dominanz als universelle Schreibassistenten. Anthropics Claude ist dabei besonders zum Streitpunkt geworden – teils weil seine Ausgaben einen wiedererkennbaren Rhythmus haben, den erfahrene Leser zu erkennen behaupten, teils weil einige Autoren offen über seinen Einsatz beim Verfassen von Entwürfen gesprochen haben. Ob diese Wiedererkennung echtes Mustererkennen oder Bestätigungsfehler ist, bleibt eine offene Frage, die die Erkennungstools nicht beantworten können.
Das praktische Problem für jeden Autor, der KI-Tools auch nur teilweise nutzt – zum Brainstorming, für Überarbeitungsdurchgänge oder zum Generieren einer einzelnen Szene – besteht darin, dass partieller Einsatz für Detektoren unsichtbar ist. Diese Tools bewerten vollständige Dokumente, nicht einzelne Absätze, und ein Dokument, das zu 90 % von einem Menschen verfasst wurde, kann dennoch einen hohen KI-Wahrscheinlichkeitswert zurückgeben, je nachdem, welchen Passagen das Modell das größte Gewicht beimisst.
Kollateralschäden und der Einschüchterungseffekt
Die unmittelbarere Konsequenz für Autoren ist nicht die Erkennung – es ist die Selbstzensur. Autoren, die KI-Tools für irgendeinen Teil ihres Prozesses nutzen, einschließlich Recherchezusammenfassungen oder Grammatikprüfung, wägen nun ab, ob sie das offenlegen sollen – und ob die Offenlegung selbst Misstrauen auf sich zieht. Autoren, die überhaupt keine KI-Tools verwenden, aber in Stilen schreiben, die Detektoren markieren – dichte Prosa, ungewöhnliche Syntax, sehr gleichmäßiger Satzrhythmus – stellen fest, dass Community-Verdacht schwer zu widerlegen ist.
Das spiegelt eine Dynamik wider, die sich in KI-Kunsträumen abgespielt hat, wo Stilähnlichkeiten mit bekannten KI-Ausgaben dazu verwendet wurden, menschliche Künstler anzuzweifeln. Der Unterschied besteht darin, dass Bild-Communities zumindest über einige forensische Tools mit partieller Zuverlässigkeit verfügen; Text-Communities operieren fast ausschließlich auf Basis von Bauchgefühl und probabilistischen Werten.
Was das für den kreativen KI-Einsatz in der Zukunft bedeutet
Der Fanfiction-Konflikt ist ein frühes und ungewöhnlich sichtbares Beispiel eines breiteren Musters: Kreative Communities setzen ihre eigenen Durchsetzungsnormen rund um den KI-Einsatz schneller fest, als zuverlässige Erkennungstechnologie diese Normen unterstützen kann. In der Lücke zwischen dem, was Communities durchsetzen wollen, und dem, was die Tools tatsächlich beweisen können, leben die falsch-positiven Ergebnisse.
Für alle, die KI-Tools in irgendeinem kreativen Schreibkontext einsetzen – nicht nur in der Fanfiction –, lautet die praktische Schlussfolgerung: Community-Standards entwickeln sich unabhängig von der technischen Realität. Autoren, die transparent über ihre Arbeitsweise sind, werden möglicherweise weniger Misstrauen begegnen als jene, die es nicht sind – doch Transparenz selbst birgt Risiken in Räumen, in denen jeder KI-Einsatz als disqualifizierend gilt. Die Tools werden diese Spannung so bald nicht auflösen.
