Fonti
Falla tua
Ti ha ispirato questa storia? Trasforma l’idea nella tua arte con IA in pochi secondi: inizi gratis, senza carta.
Inizia gratisParlane con
Scegli un compagno e scopri cosa ne pensa di questa storia

Maya mette alla prova ogni nuovo modello — prima i numeri, mai l'hype.
Ti ha ispirato questa storia? Trasforma l’idea nella tua arte con IA in pochi secondi: inizi gratis, senza carta.
Inizia gratisScegli un compagno e scopri cosa ne pensa di questa storia
Helen Toner, direttrice esecutiva del Center for Security and Emerging Technology (CSET) della Georgetown University ed ex membro del consiglio di OpenAI, ha pubblicamente affermato che il pubblico e i creatori di IA non dovrebbero fidarsi ciecamente dei CEO delle aziende di IA. I suoi commenti seguono il suo diretto coinvolgimento nel tentativo di novembre 2023 di rimuovere Sam Altman dalla sua posizione di CEO di OpenAI, una mossa di cui ha discusso in una recente intervista con The Verge.
Nella sua intervista, Toner ha sottolineato che il problema centrale non era un CEO specifico, ma il conflitto intrinseco tra la rapida commercializzazione e la missione fondamentale di sicurezza delle organizzazioni di ricerca sull'IA. Questa prospettiva è fondamentale per gli artisti e gli sviluppatori di IA che si affidano a queste aziende per modelli e strumenti, poiché indica potenziali instabilità e cambiamenti nelle priorità aziendali che potrebbero influire sull'accesso, sui prezzi o persino sulla disponibilità dei modelli.
Toner ha sottolineato che le organizzazioni che sviluppano potenti sistemi di IA richiedono strutture di governance forti e indipendenti che possano dare priorità alla sicurezza a lungo termine e al beneficio pubblico rispetto ai guadagni commerciali a breve termine o alle ambizioni di leadership individuali. Questa posizione suggerisce che i creatori dovrebbero affrontare nuovi modelli e funzionalità dai principali laboratori di IA con una sana dose di scetticismo, comprendendo che le strategie aziendali sottostanti possono cambiare rapidamente. Ad esempio, un modello che oggi è disponibile gratuitamente per la generazione di immagini potrebbe diventare una funzionalità a pagamento domani se le pressioni commerciali lo dettano, o le sue protezioni di sicurezza potrebbero essere rafforzate o allentate in base alle decisioni esecutive.
"Penso che sia molto importante non fidarsi semplicemente dei CEO di queste aziende per regolarsi da soli."
— Helen Toner
Questa prospettiva tocca anche il dibattito più ampio all'interno della comunità dell'IA riguardo ai modelli open-source rispetto a quelli closed-source. Le aziende che operano con meno trasparenza e maggiori incentivi commerciali potrebbero essere meno inclini a condividere i pesi dei modelli o a consentire un'ampia revisione esterna, limitando potenzialmente la libertà creativa e la comprensione tecnica di coloro che costruiscono sulle loro piattaforme. Per i creatori, ciò significa valutare attentamente la fattibilità a lungo termine e le posizioni etiche delle piattaforme che scelgono per i loro flussi di lavoro di generazione di immagini.
L'esperienza di Toner presso OpenAI sottolinea la volatilità all'interno delle principali organizzazioni di IA. Questa instabilità può manifestarsi in vari modi per i creatori: cambiamenti nell'accesso alle API, alterazioni delle politiche sui contenuti o deprecazioni inaspettate dei modelli. Ad esempio, un improvviso cambiamento nei valori o nelle capacità sottostanti di un modello, magari a causa di un cambio di leadership o di una nuova direttiva commerciale, potrebbe costringere gli artisti di IA ad adattare significativamente le loro tecniche di prompting o persino a passare a modelli completamente diversi.
La richiesta di una governance più forte implica anche una spinta verso uno sviluppo e una distribuzione dei modelli più trasparenti. Se avrà successo, ciò potrebbe portare a una migliore documentazione dei bias, delle limitazioni e delle funzionalità di sicurezza dei modelli, offrendo ai creatori una comprensione più chiara di come funzionano i loro strumenti di IA scelti e quali considerazioni etiche potrebbero essere in gioco. Sebbene l'impatto immediato sul prompting quotidiano possa sembrare indiretto, queste discussioni di alto livello modellano in ultima analisi il panorama degli strumenti di IA disponibili e i termini in base ai quali i creatori possono accedervi. Il dibattito in corso sul controllo e la direzione dei potenti sistemi di IA continuerà a influenzare la stabilità e l'affidabilità delle piattaforme su cui gli artisti di IA fanno affidamento per il loro lavoro. Per i creatori che cercano di costruire flussi di lavoro robusti, diversificare la dipendenza su più piattaforme o esplorare soluzioni di IA locali come quelle abilitate da llama.cpp potrebbe offrire una maggiore resilienza contro i cambiamenti aziendali.