Ricevi nella tua casella le storie migliori della settimana su IA e arte con IA: selezionate, sintetiche, gratis.
Gratis. Disattiva quando vuoi.
Gli obblighi di trasparenza dell'AI Act dell'Unione Europea sono entrati in vigore il 2 agosto, imponendo alle piattaforme di etichettare i contenuti generati dall'AI e di dichiarare quando gli utenti stanno interagendo con un chatbot — le prime norme vincolanti di questo tipo a colpire il settore dell'AI su larga scala.
Esempi di etichette per contenuti AI progettate dall'UE, che illustrano i formati di dichiarazione richiesti per i media sintetici.
Immagine: The Verge / The Verge AI
Per i creatori di arte AI, l'attrito pratico si manifesta a livello di distribuzione, non di generazione. Creare immagini con uno strumento come il generatore di Charmloop rimane invariato — gli obblighi ricadono sulle piattaforme dove quel lavoro viene pubblicato o condiviso. Ma qualsiasi piattaforma accessibile dall'UE che ospita i tuoi contenuti ha ora un incentivo legale a far rispettare il proprio sistema di etichettatura o a trasferire tale responsabilità agli utenti che caricano i file.
Secondo The Verge, le norme prendono di mira specificamente le aziende che distribuiscono sistemi AI agli utenti dell'UE — una definizione abbastanza ampia da includere piattaforme social, siti di immagini stock e marketplace di contenuti che distribuiscono lavori generati dall'AI, anche se tali aziende hanno sede fuori dall'Europa. Questa portata extraterritoriale è il dettaglio che i creatori dovrebbero monitorare con maggiore attenzione: un sito stock con sede negli Stati Uniti che ha clienti europei rientra nell'ambito di applicazione.
I deepfake ricevono il trattamento più severo. Le riproduzioni sintetiche realistiche di persone reali — che si tratti di immagini, video o audio — devono essere esplicitamente contrassegnate come generate dall'AI. Questa è la disposizione che con maggiore probabilità ridisegnerà la circolazione dei contenuti AI-portrait e AI-influencer, poiché le piattaforme che rischiano sanzioni si muoveranno rapidamente per bloccare i caricamenti senza etichetta o per contrassegnarli automaticamente.
La risposta pratica della maggior parte delle piattaforme sarà quella di affidarsi a segnali tecnici di provenienza — metadati incorporati e watermark — piuttosto che fare affidamento sull'autodichiarazione dei creatori. Il sistema di watermarking SynthID di Google e lo standard di metadati Coalition for Content Provenance and Authenticity (C2PA) sono i due approcci principali già in uso. I creatori che generano lavori tramite strumenti che incorporano metadati C2PA per impostazione predefinita troveranno i loro contenuti automaticamente conformi sulle piattaforme partecipanti; chi utilizza strumenti o flussi di lavoro che rimuovono i metadati si troverà di fronte a un percorso più difficile.
Questo crea una divergenza silenziosa ma reale nel valore dei flussi di lavoro. I generatori che incorporano dati di provenienza in ogni output — invece di trattarla come un'impostazione di esportazione opzionale — diventano significativamente più utili per chiunque distribuisca nei mercati europei. Vale la pena verificare quali modelli in un dato catalogo di modelli AI supportano nativamente l'output C2PA, poiché questa capacità sta per diventare commercialmente rilevante.
L'obbligo di dichiarazione dei deepfake ha anche un effetto deterrente su una specifica categoria di contenuti: le riproduzioni generate dall'AI utilizzate in pubblicità, contenuti editoriali o social senza il consenso del soggetto. Le piattaforme che in precedenza tolleravano ritratti sintetici ambigui avranno ora una copertura normativa — e un incentivo — per applicare politiche di caricamento più severe. I creatori che lavorano su personaggi AI o ritratti stilizzati di persone fittizie sono in gran parte non interessati, ma chiunque lavori con riproduzioni fotorealistiche di persone reali deve verificare ora la propria pipeline di distribuzione.
Questi obblighi di trasparenza sono la prima tranche dell'AI Act a entrare in vigore. Le disposizioni ad alto rischio del regolamento — che riguardano sistemi biometrici e AI nelle infrastrutture critiche — entreranno in vigore secondo un calendario più lungo, fino al 2026 e al 2027. Ma le norme sull'etichettatura dei contenuti sono attive ora, e l'Ufficio europeo per l'AI, che supervisiona l'applicazione, ha segnalato l'intenzione di agire sui reclami senza attendere la scadenza di un periodo di grazia.
Per i creatori curiosi di sapere come si sta sviluppando la tecnologia di rilevamento AI parallelamente a queste norme, il recente lancio da parte di Pangram di un modello di rilevamento di immagini AI illustra esattamente il tipo di infrastruttura che le piattaforme distribuiranno per automatizzare la conformità — e che determinerà sempre più se i lavori generati dall'AI vengono messi in evidenza o soppressi.
