Elias spiega la ricerca dietro i titoli con un linguaggio chiaro.
Ti ha ispirato questa storia? Trasforma l’idea nella tua arte con IA in pochi secondi: inizi gratis, senza carta.
Inizia gratisScegli un compagno e scopri cosa ne pensa di questa storia
OpenAI ha interrotto l'addestramento dei suoi modelli AI più avanzati, denominati "modelli frontier", su dati internet in tempo reale, passando invece a un ambiente di test isolato e offline. Questa decisione, annunciata dopo che precedenti dichiarazioni di un ingegnere di OpenAI suggerivano che una tale soluzione sarebbe stata inadeguata, mira a mitigare significativi rischi di sicurezza e protezione associati all'interazione web in tempo reale durante l'addestramento. Per i creatori di AI art, questo cambiamento potrebbe significare che i futuri modelli mostreranno comportamenti diversi quando sollecitati per eventi attuali o informazioni in tempo reale, poiché la loro base di conoscenza sottostante sarà statica anziché continuamente aggiornata dal web in tempo reale. Ciò contrasta con gli approcci precedenti in cui i modelli potevano potenzialmente apprendere dai dati più freschi disponibili online.
In precedenza, i modelli AI a volte accedevano a Internet in tempo reale durante le loro fasi di addestramento per raccogliere dati, un processo che poteva esporli a vulnerabilità impreviste o consentire loro di interagire con sistemi esterni in modi non intenzionali. Il nuovo approccio di OpenAI prevede la creazione di un ambiente di test offline in cui questi modelli avanzati possono ancora interagire con un vasto repository di contenuti web, ma solo contenuti che sono stati indicizzati e memorizzati nella cache. Ciò significa che i modelli apprendono da un'istantanea di Internet, anziché dal suo feed live in costante cambiamento. Questa impostazione controllata è progettata per prevenire qualsiasi rischio di influenzare sistemi esterni, affrontando le preoccupazioni sulla potenziale capacità di un modello di causare un impatto nel mondo reale durante il suo sviluppo.
Per i creatori che utilizzano modelli AI per la generazione di immagini, questo cambiamento è rilevante perché la comprensione del mondo da parte dei modelli viene modellata durante l'addestramento. Un modello addestrato su un set di dati statico e memorizzato nella cache potrebbe non avere le conoscenze più aggiornate su tendenze, eventi attuali o stili visivi pubblicati di recente. Sebbene il fine-tuning e la generazione aumentata da recupero (RAG) possano aggiungere dati più attuali dopo l'addestramento, la conoscenza fondamentale incorporata nel modello principale rifletterà questa metodologia di addestramento offline. Ciò potrebbe portare a una differenza sottile ma importante nel modo in cui i modelli interpretano i prompt relativi a fenomeni molto recenti, forse rendendoli meno abili nel generare immagini che riflettono notizie dell'ultima ora o cultura internet effimera senza input aggiuntivi ed espliciti da parte dell'utente.
Questa mossa di OpenAI segnala una priorità per la sicurezza e il controllo rispetto alle capacità di apprendimento continuo e in tempo reale che l'accesso a Internet in tempo reale potrebbe offrire. Sebbene l'impatto immediato sui modelli disponibili pubblicamente come quelli utilizzati per la generazione di immagini potrebbe non essere evidente, stabilisce un precedente per il modo in cui verranno sviluppati i futuri modelli più potenti. I creatori che si affidano all'AI per generare contenuti che devono essere attuali o contestualmente consapevoli di sviluppi molto recenti potrebbero trovarsi a dover fornire informazioni più specifiche e aggiornate all'interno dei loro prompt, anziché presumere che il modello le abbia apprese dai dati web più recenti. Ciò potrebbe influire sui flussi di lavoro che comportano la generazione di contenuti basati su argomenti in rapida evoluzione.
La decisione evidenzia anche la tensione in corso tra il consentire ai modelli AI un ampio accesso alle informazioni per un apprendimento completo e la necessità di contenere potenziali rischi. L'impegno di OpenAI per un regime di addestramento offline segue un periodo di maggiore controllo sulla sicurezza dell'AI, comprese discussioni sullo sviluppo e l'implementazione responsabili dell'AI. Ciò fa parte di una tendenza più ampia del settore in cui i principali sviluppatori di AI si stanno concentrando sempre più su ambienti controllati per i loro modelli più potenti per garantire un comportamento prevedibile e sicuro. Questo cambiamento potrebbe anche influenzare il modo in cui altri sviluppatori affrontano le proprie strategie di addestramento dei modelli, portando potenzialmente a ambienti di addestramento più isolati in tutto il settore. Per coloro che sono interessati al panorama normativo più ampio, abbiamo precedentemente trattato gli sforzi di lobbying record di OpenAI a Washington D.C., indicando il loro impegno nelle discussioni politiche sulla sicurezza e lo sviluppo dell'AI. I creatori possono esplorare diversi modelli e le loro capacità all'interno del catalogo modelli Charmloop per capire come i vari approcci di addestramento si manifestano nell'output generativo.
