OpenAI schakelt standaard tekstwatermerken in voor ChatGPT- en Codex-uitvoer in de EU — een nalevingsstap onder de AI-wet — maar het bedrijf erkent zelf dat het systeem niet bijzonder betrouwbaar is en eenvoudig te omzeilen valt.
Belangrijkste punten
- OpenAI schakelt onzichtbare tekstwatermerken standaard in voor EU-gebruikers van ChatGPT, een vereiste die verband houdt met de transparantieregels van de EU AI-wet.
- De watermerktechnologie, genaamd textGrain, verwerkt signalen in gegenereerde tekst die onzichtbaar zijn voor lezers maar theoretisch detecteerbaar zijn via een verificatietool.
- Zowel OpenAI als Ars Technica merken op dat het systeem niet bijzonder betrouwbaar is en kan worden omzeild door kleine bewerkingen — kopiëren en plakken, parafraseren of opnieuw opmaken.
- De standaard-aan-uitrol geldt alleen in de EU; gebruikers in de VS en elders worden niet beïnvloed.
- Er is geen vergelijkbare verplichte watermerking van kracht voor de afbeeldingsuitvoer van ChatGPT binnen deze uitrol.
Wat textGrain wel — en niet — doet
Het watermerksysteem van OpenAI, genaamd textGrain, codeert onzichtbare signalen in de statistische patronen van gegenereerde tekst — woordkeuzes, interpunctie, subtiele formuleringswijzigingen — in plaats van een zichtbare tag toe te voegen. Het idee is dat een detectortool een stuk tekst kan scannen en markeren als waarschijnlijk AI-gegenereerd, zelfs wanneer het identiek leest aan niet-gemarkeerde uitvoer.
De adder onder het gras is aanzienlijk. Volgens Ars Technica wordt erkend dat het systeem niet bijzonder betrouwbaar is, en het omzeilen ervan vereist niets geavanceerders dan de uitvoer licht te parafraseren, opnieuw op te maken of door een tweede tool te halen. Dat is een lage drempel voor iedereen die gemotiveerd is het signaal te verwijderen — inclusief kwaadwillenden die AI gebruiken om misleidende inhoud te genereren, precies het gebruik waar toezichthouders zich het meest zorgen over maken.
Voor AI-kunstenaars en schrijvers die ChatGPT gebruiken als onderdeel van een creatieve workflow — het opstellen van bijschriften, het schrijven van karakterachtergronden, het genereren van promptvariaties — is de praktische impact dagelijks vrijwel nul. Het watermerk is onzichtbaar en verandert niets aan de bruikbaarheid van de tekst. Maar het betekent wel dat EU-gebruikers nu tekst genereren die een verborgen herkomstsignaal draagt, of ze dat nu weten of willen of niet.
Alleen in de EU, bewust zo
De standaard-aan-status is uitdrukkelijk een reactie op de EU AI-wet, die vereist dat aanbieders van algemene AI-systemen AI-gegenereerde inhoud markeren op manieren die detectie mogelijk maken. OpenAI voldoet aan de vereisten in het rechtsgebied dat dit verplicht stelt en breidt de vereiste niet uit naar elders. Amerikaanse gebruikers merken geen verschil.
Die geografische splitsing is van belang voor makers die grensoverschrijdend werken. Als je als EU-gebaseerde maker AI-ondersteunde tekst indient bij een platform, publicatie of klant die AI-detectiecontroles uitvoert, dragen je ChatGPT-uitvoeren nu een signaal — hoe zwak ook — dat een detector mogelijk oppikt. Buiten de EU draagt dezelfde uitvoer geen enkel signaal.
Het bredere regelgevende beeld blijft versnipperd. Zoals Charmloop heeft behandeld, blijft zinvolle AI-inhoudsregulering in de VS vastgelopen in het Congres, waardoor de EU momenteel de facto de regelgever is voor watermerknormen.
Het betrouwbaarheidsprobleem dat niemand heeft opgelost
Tekstwatermerken zijn oprecht moeilijk. In tegenstelling tot afbeeldingswatermerken — waarbij metadata of signalen op pixelniveau veel transformaties kunnen overleven — degraderen tekstwatermerken zodra de uitvoer wordt aangeraakt. Één ronde lichte bewerking, vertaling of samenvatting kan het signaal volledig verwijderen. OpenAI beweert ook niet anders.
Dit plaatst textGrain in een lastige positie: het voldoet aan een regelgevend selectievakje terwijl het beperkte detectiemogelijkheden in de praktijk biedt. Onderzoekers die AI-schrijfkenmerken bestuderen, hebben vastgesteld dat statistische vingerafdrukken — zoals het woord „dependable" dat 23 keer vaker voorkomt in Anthropic's Opus 5.5 dan in menselijk schrijven — duurzamer kunnen zijn dan ontworpen watermerken, juist omdat ze moeilijker opzettelijk te verwijderen zijn.
Voor makers die ChatGPT gebruiken om te helpen bij het schrijven naast het genereren van afbeeldingen in tools zoals de generator van Charmloop, is de conclusie praktisch: behandel de aan- of afwezigheid van een watermerk niet als een betrouwbaar signaal van iets. De technologie is er nog niet, en OpenAI beweert ook niet van wel. Wat is veranderd, is de standaardinstelling — niet de onderliggende mogelijkheid.
