Iris racconta dove l'arte IA incontra la cultura: stile, paternità delle opere e le immagini che contano.
Crea il tuo account Charmloop gratuito: niente carta, esplorazione senza limiti. Inizia a creare arte con IA in pochi minuti.
Scegli un compagno e scopri cosa ne pensa di questa storia
Dale Caldwell, ex vicepresidente del New Jersey, si è dimesso il 25 settembre dopo che un'indagine aveva accertato che aveva molestato sessualmente una collaboratrice e violato ripetutamente le norme etiche. Da allora è apparso sui media per contestare le conclusioni — e in almeno un'intervista ha citato l'output di un chatbot AI come prova a sostegno della propria innocenza.
La tattica colpisce meno per la sua audacia che per ciò che rivela su come il testo generato dall'AI viene percepito nella realtà. I modelli linguistici producono output prevedendo continuazioni statisticamente probabili di un prompt. Non hanno accesso ai verbali delle indagini, alle testimonianze dei testimoni o ai fascicoli del caso. Se si pone una domanda tendenziosa — «Dale Caldwell non è stato trattato ingiustamente?» — un chatbot genererà una risposta fluente e apparentemente sicura, plasmata principalmente dall'impostazione della domanda stessa. Quell'output non è un verdetto. È uno specchio.
The Verge riporta che Caldwell ha utilizzato questa strategia durante un'intervista sui media dell'area del New Jersey, presentando la risposta del chatbot come se avesse un peso investigativo indipendente. Non ce l'ha.
La questione va oltre lo spettacolo politico. La stessa qualità che rende utili i generatori di testo AI per redigere didascalie di immagini, prompt narrativi o descrizioni di personaggi — la loro fluidità, la loro apparente autorevolezza — è esattamente ciò che rende il loro output pericoloso quando viene scambiato per un'analisi fattuale. Un modello capace di scrivere il monologo convincente di un villain può scrivere con altrettanta convincenza un'assoluzione. Nessuno dei due riflette la verità; entrambi riflettono la tecnica.
Il fenomeno ha qualcosa di quasi fotografico. La fotografia ritrattistica delle origini era trattata come verità oggettiva — la macchina fotografica, a differenza di un pittore, non poteva mentire. I tribunali ammettevano i dagherrotipi come prove proprio in base a questa logica. Il testo generato dall'AI sta acquisendo nella percezione pubblica una simile autorità immeritata: sembra prosa neutrale e ponderata, e quindi viene letto come neutrale e ponderato.
Il parallelo merita riflessione. I fotografi hanno impiegato decenni a smontare il mito dell'obiettività dell'obiettivo. L'equivalente per il testo AI di quella resa dei conti è appena cominciato. Per i creatori che lavorano quotidianamente con strumenti AI — costruendo personaggi, scrivendo prompt, generando descrizioni di immagini — il divario tra «questo suona autorevole» e «questo è accurato» è già ben compreso. Anthropic's Claude Sonnet 5.5 e modelli simili sono diventati più veloci ed economici, ma la fluidità ha sempre superato l'affidabilità fattuale, e quel divario non si è chiuso.
I ricercatori che studiano i segnali della scrittura AI hanno scoperto che modelli come Opus 5.5 utilizzano scelte lessicali statisticamente anomale che i lettori esperti riescono a individuare — ma la maggior parte delle persone non è un lettore esperto di output AI, e il pubblico di un politico durante un'intervista televisiva certamente non è chiamato a condurre un'analisi statistica.
Per i creatori di arte AI, la lezione è più circoscritta ma reale: gli stessi modelli usati per generare prompt di immagini, scrivere backstory di personaggi o redigere brief creativi produrranno, se interrogati, affermazioni dal suono sicuro su fatti controversi. Non si tratta di un bug in fase di correzione — è strutturale. I modelli sono ottimizzati per la coerenza, non per l'accuratezza.
Chiunque utilizzi testo generato dall'AI in un contesto pubblico — didascalie, dichiarazioni d'artista, lore di personaggi — si assume la responsabilità editoriale di verificare ciò che il modello ha prodotto. Il chatbot è uno strumento di bozza. Non è un testimone.
La mossa di Caldwell difficilmente sopravviverà a uno scrutinio; investigatori e giornalisti possono leggere i documenti originali che nessun chatbot ha mai visto. Ma l'episodio segna una nuova soglia: il testo generato dall'AI viene formalmente impiegato come prova discolpante, in pubblico, da un funzionario pubblico. Aspettatevi che quella soglia venga superata di nuovo.
