TikTok sta testando uno strumento opt-in di rilevamento della somiglianza AI con alcuni creator statunitensi selezionati, consentendo loro di scansionare la piattaforma alla ricerca di copie generate dall'AI del loro aspetto e di segnalare le violazioni direttamente all'azienda.
Punti chiave
Lo strumento di rilevamento della somiglianza AI di TikTok è attualmente in fase di test limitato con «alcuni» creator statunitensi, secondo il portavoce di TikTok US Zachary Kizer.
Lo strumento è opt-in: i creator devono scegliere di attivarlo prima che inizi qualsiasi scansione.
I creator che trovano una corrispondenza possono segnalare il contenuto a TikTok direttamente tramite lo strumento.
YouTube sta sviluppando un sistema comparabile, segnalando una spinta a livello di settore per affrontare l'impersonificazione generata dall'AI.
Il lancio non ha una data pubblica confermata.
TikTok sta sperimentando il rilevamento della somiglianza AI per i creator statunitensi in un test opt-in limitato.
Lo strumento è stato individuato per la prima volta dal consulente di social media Matt Navarra e confermato a The Verge da un portavoce di TikTok. I dettagli che vanno oltre la meccanica di base rimangono scarsi — TikTok non ha dichiarato come funziona il modello di rilevamento, quale soglia utilizza per segnalare una corrispondenza, né con quale rapidità vengono esaminati i contenuti segnalati.
Perché il rilevamento della somiglianza AI arriva proprio ora
I tempi non sono casuali. La generazione di immagini e video tramite AI ha raggiunto un punto in cui produrre una somiglianza convincente di una persona reale richiede nient'altro che alcune foto di riferimento e un modello disponibile pubblicamente. Per i creator che hanno costruito un pubblico su TikTok, si tratta di una minaccia concreta: il loro volto, la loro voce e la loro persona possono essere replicati e pubblicati senza consenso, e la scala della piattaforma rende impossibile il monitoraggio manuale.
Per i creator di arte AI in particolare, l'emergere di questi sistemi di rilevamento è un segnale che vale la pena monitorare. Gli strumenti che segnalano le somiglianze generate dall'AI si baseranno sempre più sullo stesso tipo di fingerprinting dei modelli e rilevamento degli artefatti che le piattaforme utilizzano per identificare i contenuti sintetici in senso lato. Se stai generando ritratti, personaggi o figure stilizzate che assomigliano a persone reali — anche incidentalmente — questa categoria di strumenti è ciò che determinerà se quel contenuto rimarrà online.
L'interfaccia di rilevamento di TikTok consente ai creator di segnalare le somiglianze generate dall'AI direttamente tramite lo strumento.
Anche lo sforzo parallelo di YouTube è rilevante in questo contesto. Quando due piattaforme di questa scala costruiscono infrastrutture di rilevamento contemporaneamente, tendono a stabilire l'aspettativa di riferimento per il resto del settore. Le piattaforme più piccole e gli strumenti di generazione AI spesso seguono, adottando politiche simili o sviluppando i propri filtri per i contenuti.
Il divario dell'opt-in
La struttura opt-in è il dettaglio praticamente più significativo nel lancio di TikTok. I creator che non sanno che lo strumento esiste — o che non si preoccupano di attivarlo — non ottengono alcuna protezione. Si tratta di una limitazione significativa durante un pilot limitato, ma riflette anche un modello più ampio: le piattaforme tendono a lanciare le funzionalità di protezione dell'identità come opt-in proprio perché il rilevamento sottostante non è ancora abbastanza affidabile da essere eseguito automaticamente su larga scala senza generare falsi positivi.
Per i creator che generano immagini AI come parte del loro flusso di lavoro sui contenuti, la questione dell'affidabilità taglia in entrambe le direzioni. Un sistema calibrato per individuare deepfake realistici di persone reali potrebbe, a seconda dell'implementazione, segnalare ritratti AI stilizzati o personaggi fittizi che per caso assomigliano a qualcuno. Il modo in cui TikTok gestirà i casi limite — e se pubblicherà indicazioni su cosa costituisce una somiglianza segnalabile — determinerà quanto lo strumento sarà effettivamente utile nella pratica.
Non esiste una tempistica confermata per un lancio più ampio. Il linguaggio di TikTok — «alcuni» creator statunitensi, nessun dettaglio specifico — suggerisce che si tratta di test in fase iniziale piuttosto che di una funzionalità imminente a livello di piattaforma. I creator interessati a come i contenuti generati dall'AI vengono regolamentati sulle principali piattaforme dovrebbero tenersi aggiornati mentre sia TikTok che YouTube perfezionano i loro approcci.
Se stai riflettendo su come la generazione di immagini AI si interseca con la somiglianza, l'identità e le politiche delle piattaforme, le guide su Charmloop coprono il lato pratico della creazione responsabile di immagini AI.
