Fonti
Falla tua
Ti ha ispirato questa storia? Trasforma l’idea nella tua arte con IA in pochi secondi: inizi gratis, senza carta.
Inizia gratisParlane con
Scegli un compagno e scopri cosa ne pensa di questa storia

Maya mette alla prova ogni nuovo modello — prima i numeri, mai l'hype.
Ti ha ispirato questa storia? Trasforma l’idea nella tua arte con IA in pochi secondi: inizi gratis, senza carta.
Inizia gratisScegli un compagno e scopri cosa ne pensa di questa storia
Un ricercatore di sicurezza ha dimostrato che i dati privati degli utenti, incluse le informazioni di identificazione personale, possono essere estratti dall'output di modelli AI disponibili pubblicamente, rivelando una vulnerabilità critica nella catena di fornitura dell'AI. Ciò significa che i creatori che utilizzano modelli AI per la generazione di immagini o personaggi potrebbero inavvertitamente vedere i propri dati privati esposti se questi fossero inclusi nei dati di addestramento.
Il ricercatore, che ha scelto di rimanere anonimo, ha iniettato sistematicamente circa 2 milioni di 'canarini' unici in vari set di dati pubblici comunemente utilizzati per l'addestramento di modelli AI. Questi canarini sono stati progettati per essere distinti e tracciabili, imitando punti dati privati del mondo reale. L'obiettivo era vedere se questi segreti impiantati sarebbero riemersi negli output dei modelli AI addestrati su questi set di dati. L'esperimento ha confermato che ciò è avvenuto, con un notevole tasso di estrazione da più modelli, inclusi modelli linguistici di grandi dimensioni (LLM) e modelli di generazione di immagini. Questo non è teorico; nomi specifici, indirizzi email e altre informazioni sensibili sono stati recuperati.
Il meccanismo alla base di queste fughe è spesso una combinazione di insufficiente anonimizzazione dei dati durante l'addestramento e la tendenza dei modelli a memorizzare e riprodurre porzioni dei loro dati di addestramento. Sebbene gli sviluppatori di AI spesso affermino di filtrare o anonimizzare le informazioni sensibili, questa ricerca indica che tali misure non sono abbastanza robuste. Per i creatori, ciò significa che se i loro dati personali, o anche risorse di immagini proprietarie, entrano in qualche modo nel set di addestramento di un modello, esiste un rischio tangibile che tali dati vengano riprodotti in un output generato da un altro utente.
Questa vulnerabilità si estende oltre i semplici prompt di testo. Per i creatori di arte AI che generano immagini o personaggi, le implicazioni sono dirette: qualsiasi elemento stilistico unico, motivo proprietario o persino metadati incorporati che si facciano strada nei dati di addestramento potrebbero potenzialmente essere riprodotti. Questo sfuma i confini della proprietà intellettuale e della privacy in un modo difficile da controllare una volta che i dati vengono acquisiti da un modello. Evidenzia anche preoccupazioni per gli utenti di compagni AI, dove i dati conversazionali potrebbero teoricamente essere memorizzati e rigurgitati.
Piattaforme come Charmloop che forniscono strumenti di generazione di immagini AI spesso si basano su modelli fondamentali o li ottimizzano con set di dati aggiuntivi. La trasparenza di questi set di dati sottostanti e le loro politiche di governance dei dati diventano fondamentali. I creatori dovrebbero essere consapevoli che la natura di 'scatola nera' di molti modelli AI significa che una volta che i dati vengono assorbiti, il loro destino è in gran parte fuori dal loro controllo. Questo rende la scelta del modello e della piattaforma una decisione critica per la privacy, non solo creativa.
Secondo Ars Technica, i risultati del ricercatore indicano una «catena di fornitura AI permeabile» che sta esponendo i dati segreti degli utenti a un ritmo allarmante. Ciò sottolinea l'urgente necessità di pratiche di governance dei dati più rigorose, migliori tecniche di anonimizzazione e una maggiore trasparenza da parte degli sviluppatori di AI riguardo alle loro fonti di dati di addestramento e alle salvaguardie della privacy. Gli organismi di regolamentazione stanno esaminando sempre più attentamente le pratiche sui dati AI, ma le soluzioni tecniche sono in ritardo. Fino a quando non saranno in atto protezioni più solide, i creatori dovrebbero presumere che qualsiasi dato, per quanto apparentemente oscuro, potrebbe potenzialmente essere estratto dall'output di un modello AI. Ciò potrebbe influenzare il modo in cui i creatori scelgono di concedere in licenza il loro lavoro o di contribuire a set di dati pubblici, specialmente per coloro che si affidano a stili unici o al personal branding.
La ricerca rafforza l'idea che la privacy dei dati nell'era dell'AI è una responsabilità condivisa, che richiede vigilanza da parte di utenti, sviluppatori e regolatori. Man mano che i modelli AI diventano più sofisticati e integrati nei flussi di lavoro creativi quotidiani, garantire la sicurezza dei dati sottostanti sarà una sfida continua. I creatori che cercano modelli con politiche sui dati trasparenti potrebbero esplorare i modelli AI open-weight che offrono maggiori informazioni sulle loro fonti di dati di addestramento.