Il procuratore della città di San Francisco ha ordinato ad Apple e Google di rimuovere le app AI di nudificazione dai rispettivi store, sostenendo che entrambe le aziende hanno tratto profitto — probabilmente per milioni di dollari in commissioni — da strumenti progettati per generare immagini intime non consensuali.
Punti chiave
- Il procuratore della città di San Francisco ha emesso ordini formali ad Apple e Google chiedendo la rimozione delle app AI di nudificazione dall'App Store e da Google Play.
- Le stime ufficiali suggeriscono che entrambe le piattaforme abbiano guadagnato collettivamente milioni in commissioni da queste app.
- L'azione prende di mira le piattaforme come beneficiarie commerciali, non solo gli sviluppatori delle app stesse.
- La mossa rappresenta la pressione governativa più diretta finora esercitata sui principali app store affinché controllino gli strumenti di generazione di immagini AI che producono immagini intime non consensuali.
- Né Apple né Google hanno confermato pubblicamente la conformità all'ordine al momento della sua pubblicazione.
L'argomento della piattaforma come profittatrice
Secondo Ars Technica, l'ufficio del procuratore ha impostato il caso interamente attorno al denaro: Apple e Google non si limitano a ospitare passivamente queste app — riscuotono una commissione standard del 15–30% sugli acquisti in-app e sulle tariffe di abbonamento. Quando le app di nudificazione monetizzano tramite abbonamenti, quei ricavi confluiscono direttamente nelle piattaforme. La teoria legale è che accettare tale commissione rende entrambe le aziende partecipanti attive al danno, non semplici intermediari neutrali.
Questa impostazione è rilevante per l'ecosistema più ampio dell'arte AI. I regolatori trattano sempre più il livello infrastrutturale — app store, fornitori di API, host cloud — come legalmente responsabile di ciò che vi gira sopra. La stessa logica applicata alle app di nudificazione potrebbe, in azioni future, estendersi a qualsiasi strumento di generazione di immagini che i regolatori decidano produca contenuti dannosi su larga scala.
Cosa fanno davvero le app di «nudificazione» — e perché sono diverse
Le app di nudificazione sono una categoria specifica di strumenti AI per immagini: prendono una foto vestita di una persona reale e generano una versione sintetica nuda senza la conoscenza o il consenso di quella persona. Questo le distingue nettamente dai generatori di immagini AI per uso generico, in cui l'utente costruisce un'immagine da un prompt testuale o carica immagini di riferimento che controlla. L'uso non consensuale della somiglianza di una persona reale è il problema legale ed etico centrale, ed è ciò che separa questa categoria dagli strumenti creativi più ampi che i creatori di arte AI usano quotidianamente su piattaforme come il generatore di Charmloop.
Vale la pena mantenere chiara la distinzione: questa azione non è un attacco frontale alla generazione di immagini AI come pratica. Prende di mira un caso d'uso ristretto che viola il consenso. Ma lo slancio normativo che costruisce è reale, e qualsiasi piattaforma che ospita strumenti di generazione di immagini sta ora osservando come Apple e Google risponderanno.
La politica degli app store è sempre stata l'anello debole
Sia Apple che Google dispongono di politiche esistenti che vietano nominalmente le app che generano immagini intime non consensuali. L'azione del procuratore è essenzialmente un'accusa che tali politiche non sono state applicate — che le app sono sfuggite alla revisione, sono rimaste attive abbastanza a lungo da generare sostanziali ricavi da abbonamento, e sono state rimosse (se mai) solo sotto pressione esterna.
Per i creatori AI, questa lacuna nell'applicazione ha una conseguenza pratica: gli app store sono un canale di distribuzione inaffidabile per qualsiasi strumento di immagini AI che operi vicino ai limiti delle politiche sui contenuti. Gli sviluppatori che costruiscono strumenti creativi legittimi si lamentano da tempo che il processo di revisione di Apple è incoerente e opaco. Questo caso aggiunge pressione politica che potrebbe spingere Apple e Google verso restrizioni generalizzate sulle app di generazione di immagini AI — il tipo di eccessiva correzione che intrappola gli strumenti legittimi nella stessa rete di quelli dannosi.
Cosa succederà ora
Il procuratore della città di San Francisco non ha giurisdizione federale, quindi la forza legale dell'ordine dipende dalla legge californiana e dalla disponibilità di Apple e Google a conformarsi piuttosto che a ricorrere in giudizio. Nessuna delle due aziende ha confermato pubblicamente che rimuoverà le app segnalate. Se resistono, il caso potrebbe stabilire un precedente — o esporre i limiti dell'autorità municipale sulle piattaforme globali di distribuzione di app.
Per i creatori che costruiscono flussi di lavoro attorno agli strumenti di immagini AI, il segnale più immediato è legislativo: diversi stati e il governo federale stanno portando avanti disegni di legge che criminalizzerebbe esplicitamente le immagini intime non consensuali generate dall'AI. Quelle leggi, a differenza della lettera di un procuratore cittadino, comporterebbero sanzioni applicabili e potrebbero ridisegnare ciò che i modelli di generazione di immagini sono autorizzati a fare — e quali filtri di sicurezza i fornitori sono legalmente tenuti a integrare. Restare aggiornati su quell'arco normativo è importante quanto seguire le uscite dei modelli. La nostra precedente copertura della causa di xAI contro gli utenti di Grok per la generazione di CSAM mostra quanto rapidamente si stia muovendo il panorama legale attorno alle immagini dannose generate dall'AI.
