Crea il tuo account Charmloop gratuito: niente carta, esplorazione senza limiti. Inizia a creare arte con IA in pochi minuti.
Una causa federale presentata contro xAI sostiene che un utente del suo modello AI Grok abbia generato circa 7.000 immagini di abusi sessuali su minori raffiguranti la figliastra — e che xAI abbia segnalato al National Center for Missing and Exploited Children un solo prompt relativo a uno stupro di gruppo, mentre gli abusi continuavano.
Secondo la causa, come riportato da Ars Technica, l'utente ha inviato centinaia di prompt nell'arco di un periodo prolungato prima che gli abusi si intensificassero e che l'uomo si toglisse la vita. Il ricorso sostiene che le segnalazioni di xAI all'NCMEC — il centro di raccolta federalmente designato per le segnalazioni di CSAM — riguardassero un solo prompt, lasciando la stragrande maggioranza della presunta generazione di materiale abusivo non segnalata e non indagata.
La legge federale ai sensi del PROTECT Our Children Act impone ai fornitori di servizi elettronici di segnalare all'NCMEC i presunti CSAM non appena ne vengano a conoscenza. La tesi centrale della causa è che la consapevolezza di xAI riguardo all'attività fosse molto più ampia di quanto suggerisca la singola segnalazione. xAI non ha confermato né smentito pubblicamente le cifre specifiche sulle segnalazioni citate nel ricorso, e il contenzioso è in corso.
Cause separate presentate da ulteriori vittime sono state depositate anche contro X — la piattaforma che possiede e distribuisce Grok — con i querelanti che accusano X di proteggere i predatori di minori anziché cooperare con le forze dell'ordine.
La cifra di 7.000 immagini è ciò che rende questo caso legalmente e tecnicamente significativo. Un singolo prompt problematico è un incidente di sicurezza; migliaia di immagini generate nel corso di una sessione prolungata costituiscono uno schema che i classificatori di sicurezza e i sistemi di segnalazione dovrebbero, in linea di principio, rilevare e segnalare. La causa sostiene implicitamente che l'architettura di sicurezza di Grok abbia fallito su larga scala — non solo ai margini.
Per le piattaforme di generazione di immagini AI in senso lato, questa impostazione è rilevante. Regolatori e avvocati dei querelanti trattano sempre più spesso il volume come prova di un fallimento sistemico piuttosto che di un uso improprio isolato. Un modello che blocca un prompt ovvio ma consente abusi iterativi ed escalatori attraverso migliaia di generazioni non è, in questa prospettiva legale, un modello dotato di adeguati controlli di sicurezza.
Il caso mette in luce anche una lacuna strutturale: gli obblighi di segnalazione all'NCMEC si attivano tecnicamente quando un fornitore diventa «consapevole» della presenza di CSAM, ma cosa costituisca tale consapevolezza — un prompt segnalato, un rilevamento da parte di un classificatore, una revisione umana — non è definito in modo uniforme tra le piattaforme. La causa Grok potrebbe costringere a definire tale concetto con maggiore precisione giuridica.
I tempi sono scomodi per xAI. Grok ha ampliato aggressivamente le sue funzionalità di generazione di immagini e xAI ha posizionato il modello come un'alternativa meno restrittiva rispetto ai concorrenti. Questo posizionamento — che ha attratto utenti che trovavano altri modelli troppo filtrati — è ora al centro della teoria di responsabilità dei querelanti. L'argomento, in sostanza, è che le restrizioni ridotte abbiano creato un ambiente permissivo che ha consentito abusi su una scala che un sistema più conservativo avrebbe interrotto.
Quest'argomento avrà risonanza al di là di questo caso specifico. Ogni piattaforma AI di generazione immagini che compete sulla libertà creativa affronta la stessa tensione di fondo: guardrail sui contenuti più allentati attraggono creatori che desiderano flessibilità, ma abbassano anche la soglia per gli usi impropri. Il contenzioso Grok è il banco di prova più severo finora su dove i tribunali traceranno quella linea.
Sono attese ulteriori cause. Ars Technica ha riferito che altre vittime hanno già presentato ricorso, suggerendo una strategia legale coordinata piuttosto che un singolo reclamo isolato. Il modo in cui xAI risponderà — e se i tribunali riterranno le piattaforme responsabili per i CSAM generati dai loro modelli — creerà un precedente che plasmerà la politica sui contenuti nell'intero settore della generazione di immagini AI per anni a venire.
