OpenAI sta attivando per impostazione predefinita la filigrana testuale per gli output di ChatGPT e Codex nell'UE — una mossa di conformità prevista dall'AI Act — ma la stessa azienda riconosce che il sistema non è particolarmente affidabile ed è facile da aggirare.
Punti chiave
- OpenAI sta abilitando filigrane testuali invisibili per impostazione predefinita per gli utenti UE di ChatGPT, un requisito legato alle norme sulla trasparenza dell'AI Act dell'UE.
- La tecnologia di filigranatura, chiamata textGrain, incorpora segnali nel testo generato invisibili ai lettori ma teoricamente rilevabili da uno strumento di verifica.
- Sia OpenAI che Ars Technica sottolineano che il sistema non è particolarmente affidabile e può essere vanificato da modifiche minori — copia-incolla, parafrasi o riformattazione.
- Il rilascio con attivazione predefinita si applica solo nell'UE; gli utenti negli Stati Uniti e altrove non sono interessati.
- Non è prevista alcuna filigranatura obbligatoria equivalente per gli output di immagini di ChatGPT nell'ambito di questo rilascio.
Cosa fa davvero textGrain — e cosa non fa
Il sistema di filigranatura di OpenAI, chiamato textGrain, codifica segnali invisibili nei pattern statistici del testo generato — scelte lessicali, punteggiatura, sottili variazioni di formulazione — anziché aggiungere un'etichetta visibile. L'idea è che uno strumento di rilevamento possa analizzare un testo e segnalarlo come probabilmente generato dall'IA, anche quando risulta identico a un output senza filigrana.
Il problema è sostanziale. Secondo Ars Technica, il sistema è riconosciuto come non particolarmente affidabile, e aggirarlo non richiede nulla di più sofisticato che parafrasare leggermente l'output, riformattarlo o passarlo attraverso un secondo strumento. È una soglia bassa per chiunque sia motivato a eliminare il segnale — compresi i malintenzionati che usano l'IA per generare contenuti fuorvianti, esattamente il caso d'uso che preoccupa maggiormente i regolatori.
Per i creatori di arte con l'IA e gli scrittori che usano ChatGPT come parte di un flusso di lavoro creativo — scrivere didascalie, creare backstory per personaggi, generare variazioni di prompt — l'impatto pratico è quasi nullo nella quotidianità. La filigrana è invisibile e non altera l'usabilità del testo. Significa però che gli utenti con sede nell'UE generano ora testo che porta un segnale di provenienza nascosto, che lo sappiano o lo vogliano oppure no.
Solo nell'UE, per scelta
L'attivazione predefinita è esplicitamente una risposta all'AI Act dell'UE, che impone ai fornitori di sistemi di IA di uso generale di contrassegnare i contenuti generati dall'IA in modo da consentirne il rilevamento. OpenAI si conforma nella giurisdizione che lo richiede e non estende il requisito altrove. Gli utenti statunitensi non vedono alcun cambiamento.
Questa divisione geografica è rilevante per i creatori che lavorano oltre confine. Se sei un creatore con sede nell'UE che invia testo assistito dall'IA a una piattaforma, una pubblicazione o un cliente che esegue controlli di rilevamento dell'IA, i tuoi output di ChatGPT portano ora un segnale — per quanto debole — che un rilevatore potrebbe intercettare. Al di fuori dell'UE, lo stesso output non ne porta nessuno.
Il quadro normativo più ampio rimane frammentato. Come Charmloop ha già riportato, una regolamentazione significativa dei contenuti IA negli Stati Uniti rimane bloccata al Congresso, lasciando l'UE come legislatore de facto per gli standard di filigranatura al momento.
Il problema dell'affidabilità che nessuno ha risolto
La filigranatura testuale è genuinamente difficile. A differenza della filigranatura delle immagini — dove i metadati o i segnali a livello di pixel possono sopravvivere a molte trasformazioni — le filigrane testuali si degradano nel momento in cui l'output viene modificato. Un singolo ciclo di leggera revisione, traduzione o sintesi può eliminare completamente il segnale. OpenAI non afferma il contrario.
Questo mette textGrain in una posizione scomoda: soddisfa un requisito normativo formale pur offrendo una capacità di rilevamento reale limitata. I ricercatori che studiano i segnali della scrittura IA hanno scoperto che le impronte statistiche — come la parola «dependable» che appare 23 volte più spesso nell'Opus 5.5 di Anthropic rispetto alla scrittura umana — possono essere più durature delle filigrane ingegnerizzate, proprio perché sono più difficili da rimuovere deliberatamente.
Per i creatori che usano ChatGPT per assistere nella scrittura accanto alla generazione di immagini in strumenti come il generatore di Charmloop, il messaggio è pratico: non trattare la presenza o l'assenza di una filigrana come un segnale affidabile di alcunché. La tecnologia non è ancora pronta, e OpenAI non lo afferma. Ciò che è cambiato è l'impostazione predefinita — non la capacità sottostante.
