Scegli un compagno e scopri cosa ne pensa di questa storia
Articoli correlati
Un'immagine generata dall'IA dell'attrice Mia Goth si è diffusa su Instagram da un account con la spunta blu di verifica — falsa — prima che la piattaforma la rimuovesse, con i suoi rappresentanti che hanno definito l'accaduto «incomprensibile».
Punti chiave
Un account Instagram di nome miagoth_ — non il vero account di Goth — aveva il badge di verifica blu e ha pubblicato un'immagine generata dall'IA dell'attrice con indosso una T-shirt con uno slogan provocatorio, in coincidenza con la sua richiesta di divorzio nella vita reale.
I rappresentanti di Goth hanno dichiarato a The Verge che l'immagine era falsa e hanno descritto il mancato intervento di Instagram come «incomprensibile».
Il realismo dell'immagine e la presenza del badge verificato sono stati i due fattori che ne hanno alimentato la diffusione virale — una combinazione che dovrebbe preoccupare qualsiasi creator che lavori con le sembianze di persone reali tramite IA.
Il sistema di verifica di Instagram, venduto tramite abbonamenti Meta Verified, non conferma in modo affidabile che un account appartenga alla persona che dichiara di rappresentare.
Attualmente non esiste su Instagram alcun obbligo imposto dalla piattaforma di etichettare i contenuti generati dall'IA, che avrebbe segnalato questa immagine al momento del caricamento.
L'immagine generata dall'IA diffusasi dall'account Instagram falso verificato miagoth_, in coincidenza con la notizia del vero divorzio di Goth.
Come un badge verificato falso ha trasformato un deepfake in un caso mediatico
Vale la pena capire con precisione la meccanica di quanto accaduto. All'inizio di questo mese, Mia Goth ha presentato richiesta di divorzio da Shia LaBeouf — una notizia reale, ampiamente riportata. L'account miagoth_ ha quindi pubblicato una foto generata dall'IA di Goth con una T-shirt con la scritta «MY EX IS MY BIGGEST FAN» in grassetto nero. La spunta blu ha conferito al post immediata credibilità. Utenti distratti, e persino alcuni giornalisti, l'hanno trattata come autentica. Secondo The Verge, i suoi rappresentanti hanno descritto la situazione come incomprensibile, dato che Instagram ha permesso che si diffondesse.
Il badge verificato è il nodo centrale. Meta Verified — il livello di verifica a pagamento di Instagram — concede la spunta agli abbonati che presentano un documento d'identità rilasciato da un ente governativo, ma verifica l'identità rispetto a chi effettua la richiesta, non rispetto al nome o alle sembianze visualizzate dall'account. Un malintenzionato può pagare l'abbonamento, verificarsi come se stesso e poi gestire un account che impersona qualcun altro. Il badge che gli utenti interpretano come «è davvero lei» significa in realtà qualcosa di molto più limitato.
Il problema del realismo è ora una responsabilità dei creator
Per chiunque generi immagini AI di persone reali — illustrazioni editoriali, fan art, composizioni satiriche — questo episodio traccia una linea netta tra ciò che è tecnicamente possibile e ciò che è legalmente ed eticamente difendibile. L'immagine di Goth è, a quanto si riferisce, abbastanza convincente da essere circolata come autentica. Quel livello di fotorealismo è oggi raggiungibile con generatori di immagini di fascia consumer, ed è esattamente questa capacità a rendere il contesto e l'etichettatura non facoltativi.
Se si genera un'immagine realistica di una persona reale per qualsiasi scopo, l'attuale ambiente delle piattaforme non offre quasi nessuna rete di sicurezza. Instagram non prevede alcun obbligo di dichiarazione AI al momento del caricamento. Il rilevatore SynthID di Google è in grado di identificare le filigrane AI di determinati generatori, ma solo se l'immagine è stata filigranata al momento della creazione — e la maggior parte dei flussi di lavoro non lo impone per impostazione predefinita. La nostra precedente copertura del sito del rilevatore SynthID di Google aveva rilevato che ora è in grado di leggere le filigrane di più provider, ma l'adozione da parte dei creator rimane volontaria e discontinua.
La conseguenza pratica: se il tuo flusso di lavoro prevede la generazione di immagini fotorealistiche di persone identificabili — anche per scopi chiaramente satirici — dovresti etichettare esplicitamente quelle immagini nella didascalia e nel testo alternativo, senza affidarti a una piattaforma per farlo al posto tuo. È un'abitudine da adottare a livello di prompt e di esportazione, non una funzionalità della piattaforma.
Cosa significa ora il divario nella responsabilità delle piattaforme
Il caso Goth è un test di stress che Instagram ha fallito in modo evidente. La combinazione di un'immagine AI convincente, un badge verificato e un aggancio tempestivo a una notizia reale non è un caso limite raro — è una formula ripetibile. Man mano che la qualità delle immagini AI continua a migliorare, il divario visivo tra una foto generata e una reale si avvicina a zero per la maggior parte degli utenti.
Questo è importante anche per i creator legittimi. Le reazioni a episodi come questo tendono a produrre politiche di piattaforma drastiche: divieti più ampi sulle sembianze generate dall'IA, filtri di caricamento più severi o requisiti obbligatori di filigranatura che riguardano tutti i creator indipendentemente dall'intento. Il perdurante stallo congressuale sulle norme AI in materia di copyright e privacy significa che l'applicazione a livello di piattaforma — per quanto discontinua — è destinata a rimanere il principale controllo nel prossimo futuro.
Se stai esplorando la generazione di immagini AI e vuoi capire a che punto si trovano gli strumenti attuali in termini di realismo ed etichettatura, il catalogo modelli di Charmloop documenta quali generatori applicano la filigranatura per impostazione predefinita e quali no — una distinzione che diventa sempre meno accademica di settimana in settimana.
