Ti ha ispirato questa storia? Trasforma l’idea nella tua arte con IA in pochi secondi: inizi gratis, senza carta.
Il nuovo sistema Content Seal di Meta è in grado di rilevare le immagini generate dall'AI su Facebook e Instagram — ma solo se quelle immagini sono state create con il modello Muse di Meta, lasciando praticamente tutto il resto senza rilevamento.
L'Oversight Board ha invitato Meta a marzo a «rispettare i propri impegni pubblici e utilizzare i propri strumenti» per ridurre la diffusione di contenuti AI generativi ingannevoli. La risposta di Meta a luglio — Content Seal — è tecnicamente funzionale ma operativamente limitata. Lo strumento di rilevamento mostra un segnale chiaro quando trova un'immagine generata da Muse, inclusi i metadati sul modello e la data di generazione.
Le informazioni visualizzate quando lo strumento Content Seal di Meta identifica con successo un'immagine creata con il proprio modello Muse.
Immagine: The Verge / The Verge AI
Per i creatori di arte AI, il divario pratico è evidente. La stragrande maggioranza delle immagini AI che circolano su Facebook e Instagram non è stata creata con Muse — proviene da Midjourney, DALL-E 3, Flux o varianti di Stable Diffusion. Content Seal non può fare nulla con nessuna di esse. Secondo The Verge, SynthID di Google supporta già una gamma più ampia di generatori e rappresenta l'approccio di rilevamento cross-platform più credibile.
Lo strumento di Meta mostra questo messaggio quando non vengono trovati marker Content Seal — ma l'assenza di un marker non è la conferma che un'immagine sia autentica.
Immagine: The Verge / The Verge AI
SynthID, lo standard di watermarking di Google, è stato costruito fin dall'inizio per funzionare su più generatori — inclusi i modelli di terze parti che aderiscono. Questa architettura significa che un singolo rilevatore può coprire una fetta significativa dei contenuti generati dall'AI. Content Seal, per scelta o per limitazione, ne copre esattamente uno: Muse. Per i creatori che tengono alla provenienza — che vogliano che il proprio lavoro sia correttamente attribuito o che vogliano sapere se un'immagine di riferimento trovata online è generata dall'AI — questa distinzione è enormemente importante.
Lo strumento non sopravvive nemmeno alla post-elaborazione di base. Una compressione intensa, il ritaglio o la correzione del colore possono eliminare o corrompere i watermark invisibili. Meta non ha pubblicato dettagli sulla robustezza di Content Seal rispetto a queste trasformazioni, che sono di routine nella condivisione sui social media.
Se generi immagini con strumenti come Flux o Midjourney e le pubblichi su Instagram, Content Seal non le etichetterà come generate dall'AI — anche se lo desideri. Questo ha un doppio effetto: i creatori che vogliono che il proprio lavoro AI sia trasparentemente segnalato non ricevono alcun aiuto da questo sistema, e i malintenzionati che utilizzano qualsiasi generatore non-Meta non incontrano alcun ostacolo.
Il generatore di immagini Charmloop e la maggior parte degli strumenti di terze parti sono ugualmente al di fuori dell'ambito di Content Seal. Per i creatori che navigano tra le questioni di attribuzione e autenticità, l'abitudine più utile al momento è dichiarare manualmente la generazione AI nelle didascalie e nei metadati — perché nessun sistema di rilevamento lato piattaforma copre attualmente l'intera gamma di strumenti in uso attivo.
Il più ampio catalogo di modelli AI di Meta include Muse insieme agli altri strumenti generativi, ma il rilevatore di Content Seal è utile solo quanto l'ecosistema che copre. Finché Meta non concede in licenza SynthID, non costruisce partnership cross-model o non apre il proprio standard di watermarking a terze parti, Content Seal funziona più come uno strato di protezione del brand per Muse che come una soluzione significativa all'inganno dei contenuti AI su larga scala.
L'Oversight Board non ha ancora risposto pubblicamente al lancio di luglio — e dato quanto limitatamente Content Seal risponda al mandato originale, quella risposta potrebbe essere pungente quando arriverà.
