OpenAI active par défaut le filigrane de texte pour les sorties de ChatGPT et Codex dans l'UE — une mesure de conformité au titre de l'AI Act — mais la société elle-même reconnaît que le système n'est pas particulièrement fiable et qu'il est facile à contourner.
Points clés
- OpenAI active les filigranes de texte invisibles par défaut pour les utilisateurs européens de ChatGPT, une exigence liée aux règles de transparence de l'AI Act de l'UE.
- La technologie de filigranage, appelée textGrain, intègre des signaux dans le texte généré, invisibles pour les lecteurs mais théoriquement détectables par un outil de vérification.
- OpenAI et Ars Technica soulignent tous deux que le système n'est pas particulièrement fiable et peut être mis en échec par de légères modifications — copier-coller, paraphrase ou reformatage.
- Le déploiement avec activation par défaut ne s'applique qu'au sein de l'UE ; les utilisateurs aux États-Unis et ailleurs ne sont pas concernés.
- Aucun filigranage obligatoire équivalent n'est prévu pour les sorties d'images de ChatGPT dans le cadre de ce déploiement.
Ce que textGrain fait réellement — et ce qu'il ne fait pas
Le système de filigranage d'OpenAI, appelé textGrain, encode des signaux invisibles dans les schémas statistiques du texte généré — choix de mots, ponctuation, légères variations de formulation — plutôt que d'ajouter une balise visible. L'idée est qu'un outil de détection peut analyser un texte et le signaler comme probablement généré par une IA, même lorsqu'il se lit de manière identique à une sortie non filigranée.
La limite est considérable. Selon Ars Technica, le système est reconnu comme peu fiable, et le contourner ne nécessite rien de plus sophistiqué qu'une légère paraphrase de la sortie, un reformatage ou le passage par un second outil. C'est une barre bien basse pour quiconque est motivé à effacer le signal — y compris les acteurs malveillants utilisant l'IA pour générer du contenu trompeur, précisément le cas d'usage qui préoccupe le plus les régulateurs.
Pour les créateurs d'art IA et les rédacteurs qui utilisent ChatGPT dans un flux de travail créatif — rédiger des légendes, écrire des histoires de personnages, générer des variations de prompts — l'impact pratique est quasi nul au quotidien. Le filigrane est invisible et n'altère pas l'utilisabilité du texte. Mais cela signifie que les utilisateurs basés dans l'UE génèrent désormais du texte portant un signal de provenance caché, qu'ils le sachent ou non, qu'ils le souhaitent ou non.
Limité à l'UE, par conception
L'activation par défaut est explicitement une réponse à l'AI Act de l'UE, qui exige des fournisseurs de systèmes d'IA à usage général qu'ils marquent les contenus générés par l'IA de manière à permettre leur détection. OpenAI se conforme dans la juridiction qui l'impose et n'étend pas cette exigence ailleurs. Les utilisateurs américains ne constatent aucun changement.
Cette division géographique est importante pour les créateurs travaillant à l'international. Si vous êtes un créateur basé dans l'UE et que vous soumettez un texte assisté par IA à une plateforme, une publication ou un client qui effectue des vérifications de détection IA, vos sorties ChatGPT portent désormais un signal — aussi faible soit-il — qu'un détecteur pourrait relever. En dehors de l'UE, la même sortie n'en porte aucun.
Le tableau réglementaire global reste fragmenté. Comme Charmloop l'a couvert, une réglementation significative du contenu IA aux États-Unis reste bloquée au Congrès, laissant l'UE comme le législateur de facto pour les normes de filigranage à l'heure actuelle.
Le problème de fiabilité que personne n'a résolu
Le filigranage de texte est véritablement difficile. Contrairement au filigranage d'images — où les métadonnées ou les signaux au niveau des pixels peuvent survivre à de nombreuses transformations — les filigranes de texte se dégradent dès que la sortie est modifiée. Un seul cycle de légère édition, de traduction ou de résumé peut effacer entièrement le signal. OpenAI ne prétend pas le contraire.
Cela place textGrain dans une position délicate : il coche une case réglementaire tout en offrant une capacité de détection réelle limitée. Des chercheurs étudiant les caractéristiques de l'écriture IA ont constaté que les empreintes statistiques — comme le mot « dependable » apparaissant 23 fois plus souvent dans Anthropic's Opus 5.5 que dans l'écriture humaine — peuvent être plus durables que les filigranes conçus à cet effet, précisément parce qu'ils sont plus difficiles à supprimer délibérément.
Pour les créateurs qui utilisent ChatGPT pour assister leur rédaction en parallèle de la génération d'images dans des outils comme le générateur de Charmloop, la conclusion est pratique : ne traitez pas la présence ou l'absence d'un filigrane comme un signal fiable de quoi que ce soit. La technologie n'en est pas encore là, et OpenAI ne prétend pas le contraire. Ce qui a changé, c'est le paramètre par défaut — pas la capacité sous-jacente.
