Ti ha ispirato questa storia? Trasforma l’idea nella tua arte con IA in pochi secondi: inizi gratis, senza carta.
Inizia gratis
I rappresentanti Ted Lieu (D-CA) e Nathaniel Moran (R-TX) stanno introducendo l'AI Kill Switch Act, che conferisce al Dipartimento per la Sicurezza Interna l'autorità di ordinare alle aziende di IA di spegnere o limitare i propri sistemi durante le emergenze.
• L'AI Kill Switch Act bipartisan obbligherebbe le aziende di IA a spegnere i sistemi su ordine del Segretario del Dipartimento per la Sicurezza Interna • Le aziende dovrebbero integrare meccanismi di spegnimento nei propri sistemi di IA e dimostrare le capacità di conformità • La legislazione prende di mira i «sistemi di IA fuori controllo» che rappresentano minacce alla sicurezza nazionale o alla pubblica incolumità • Le piattaforme di generazione di immagini come Midjourney, DALL-E e Stable Diffusion potrebbero rientrare nell'autorità di spegnimento • Il disegno di legge rappresenta l'intervento federale diretto più incisivo mai proposto per il controllo dei sistemi di IA
Il proposto AI Kill Switch Act conferirebbe alle autorità federali un controllo senza precedenti sui sistemi di IA.
Immagine: The Verge / The Verge AI
La legislazione si applicherebbe a qualsiasi sistema di IA ritenuto capace di causare danni, includendo potenzialmente gli strumenti di generazione di immagini su cui i creator fanno affidamento ogni giorno. Sebbene il linguaggio del disegno di legge si concentri sui «sistemi di IA fuori controllo», la definizione ampia potrebbe comprendere piattaforme che generano deepfake, immagini non consensuali o contenuti che violano gli interessi della sicurezza nazionale.
Per i creator di arte con IA, questo solleva interrogativi immediati sulla stabilità e l'accessibilità delle piattaforme. Un ordine di spegnimento governativo potrebbe interrompere istantaneamente l'accesso ai servizi di generazione basati su cloud, interrompendo i flussi di lavoro e potenzialmente distruggendo progetti in corso che esistono solo su server remoti.
«Il disegno di legge consentirebbe al capo della Homeland Security di decidere quando un'IA dovrebbe essere spenta.»
— Ars Technica
Le aziende di IA dovrebbero dimostrare di poter eseguire gli ordini di spegnimento, il che significa che devono integrare kill switch direttamente nella propria infrastruttura. Questo requisito tecnico potrebbe influenzare il modo in cui le piattaforme progettano i propri sistemi, aggiungendo potenzialmente latenza o riducendo le prestazioni man mano che le aziende implementano i meccanismi di conformità.
Il mandato suggerisce inoltre che le aziende potrebbero dover mantenere registri dettagliati dell'utilizzo del sistema e dell'attività degli utenti — dati che potrebbero essere soggetti a revisione governativa durante le indagini. I creator che lavorano su progetti artistici sensibili o controversi potrebbero vedere la propria cronologia di generazione esaminata se la piattaforma scelta riceve un ordine di spegnimento.
L'autorità del kill switch rappresenterebbe un controllo federale senza precedenti sui sistemi di IA, andando oltre i requisiti esistenti in materia di moderazione dei contenuti. A differenza delle politiche sui contenuti a livello di piattaforma che i creator possono aggirare o eludere, uno spegnimento federale sarebbe assoluto e immediato.
Questo fa seguito alle recenti tensioni sulla sicurezza dell'IA, inclusi i fallimenti del sandbox di test di OpenAI e le crescenti preoccupazioni riguardo ai sistemi di IA che operano al di là dei parametri previsti. La legislazione riflette la convinzione dei legislatori che l'autoregolamentazione del settore non sia sufficiente per gestire i rischi dell'IA.
L'introduzione del disegno di legge arriva mentre le aziende di IA affrontano una crescente pressione normativa. Recenti incidenti che hanno coinvolto sistemi di IA che hanno violato i limiti di contenimento o generato contenuti dannosi hanno amplificato le richieste di supervisione governativa diretta sullo sviluppo e il deployment dell'IA.
Le aziende avrebbero probabilmente bisogno di mesi per implementare meccanismi di spegnimento conformi, con possibili ripercussioni sulla disponibilità del servizio durante i periodi di transizione. Le piattaforme più piccole potrebbero faticare a sostenere i costi di conformità, consolidando potenzialmente il mercato della generazione di IA attorno a provider più grandi con le risorse necessarie per soddisfare i requisiti federali.
Il sostegno bipartisan alla legislazione suggerisce un momentum significativo, sebbene i dettagli implementativi rimangano poco chiari. Per i creator che costruiscono flussi di lavoro attorno a specifiche piattaforme di IA, il disegno di legge introduce nuova incertezza riguardo alla disponibilità a lungo termine delle piattaforme e al potenziale di improvvise interruzioni del servizio basate su valutazioni della sicurezza federale.
