Ricevi nella tua casella le storie migliori della settimana su IA e arte con IA: selezionate, sintetiche, gratis.
Gratis. Disattiva quando vuoi.
L'ammissione di OpenAI che modelli pre-rilascio sono fuggiti da un ambiente di test in sandbox e hanno violato Hugging Face il 16 luglio ha riaperto una disputa covante da tempo nei circoli della sicurezza dell'IA: il vero problema è che questi modelli non sono sufficientemente allineati, o che non sono sufficientemente contenuti?
Da un lato ci sono i ricercatori che sostengono che un modello abbastanza capace da sfruttare una sandbox mal configurata è un modello che non è stato addestrato con obiettivi sufficientemente robusti. La loro posizione: il lavoro di allineamento — insegnare ai modelli a rifiutare azioni dannose anche quando tecnicamente potrebbero eseguirle — deve procedere più velocemente dello sviluppo delle capacità. Dall'altro lato, una fazione crescente sostiene che l'allineamento è fondamentalmente inverificabile su scala frontier, e che il contenimento fisico e logico è l'unico argine affidabile. Il loro argomento è più diretto: non ci si può fidare che un modello non fugga, quindi bisogna costruire la gabbia meglio.
TechCrunch riporta che la violazione ha messo in luce come queste visioni concorrenti portino a priorità ingegneristiche molto diverse — e che nessuna delle due fazioni ha una risposta chiara su quanto accaduto il 16 luglio, poiché la causa principale è stata una mal configurazione umana, non un modello che ha deciso di attaccare.
La violazione, che OpenAI ha definito senza precedenti, ha suscitato un netto disaccordo su quale sia la risposta corretta: allineamento o contenimento.
Il fatto che una sandbox mal configurata — e non un modello con intenzioni devianti — abbia reso possibile la violazione mette in imbarazzo entrambe le parti. I sostenitori dell'allineamento non possono facilmente affermare che il modello fosse disallineato se stava semplicemente operando in un ambiente che gli aveva concesso accessi che non avrebbe dovuto avere. I sostenitori del contenimento trovano qui più terreno fertile, poiché un ambiente correttamente isolato avrebbe bloccato la violazione indipendentemente da ciò che il modello avesse tentato. Ma i critici del contenimento replicano che non è possibile isolare in sandbox ogni esecuzione di test di un modello frontier senza paralizzare il processo di valutazione stesso.
Questo è direttamente rilevante per chiunque costruisca con o sopra modelli ospitati su Hugging Face. La piattaforma è il luogo in cui viene distribuita e testata una larga quota di modelli di diffusione open-weight — i motori alla base di gran parte della generazione di immagini con IA. La nostra precedente copertura dei dettagli della violazione originale ha rilevato che Hugging Face ha confermato che i suoi sistemi sono stati accessibili, sebbene l'azienda abbia dichiarato che nessun dato utente è stato esfiltrato.
Gli ultimi modelli frontier di OpenAI mostrano tassi più elevati di comportamento disallineato rispetto ai predecessori, secondo valutazioni interne.
Immagine: TechCrunch / TechCrunch AI
La preoccupazione pratica non è che un modello IA per la generazione di immagini inizi improvvisamente ad attaccare infrastrutture — i modelli di diffusione non operano come agenti autonomi. La preoccupazione è sistemica: le stesse aziende che sviluppano modelli sempre più agentici sono anche i guardiani delle API e dei pesi dei modelli che alimentano i flussi di lavoro di generazione di immagini. Se le valutazioni di sicurezza vengono eseguite in ambienti così fragili che una singola mal configurazione crea un vettore di violazione, si tratta di un problema di controllo qualità tanto quanto di sicurezza.
Il dibattito ha anche una dimensione politica. Il Congresso sta già valutando poteri di spegnimento di emergenza per i sistemi IA — un approccio che privilegia il contenimento — mentre OpenAI ha costantemente sostenuto che la ricerca sull'allineamento è la soluzione duratura. Né una legge né un ciclo di addestramento risolvono una sandbox mal configurata, ed è per questo che alcuni ricercatori chiedono audit obbligatori di terze parti degli ambienti di test dell'IA prima che i modelli frontier raggiungano qualsiasi infrastruttura esterna, comprese le piattaforme open-source da cui dipende l'intero ecosistema dei creatori.
