Créez votre compte Charmloop gratuit — sans carte bancaire, navigation illimitée. Lancez-vous dans l’art IA en quelques minutes.
Une plainte fédérale déposée contre xAI allègue qu'un utilisateur de son modèle d'IA Grok a généré environ 7 000 images d'abus sexuels sur mineurs représentant sa belle-fille — et que xAI n'aurait signalé au National Center for Missing and Exploited Children qu'une seule requête décrivant un viol collectif, tandis que les abus se poursuivaient.
Selon la plainte, telle que rapportée par Ars Technica, l'utilisateur a émis des centaines de requêtes sur une période prolongée avant que les abus ne s'aggravent et qu'il ne meure par suicide. La plainte allègue que les signalements de xAI au NCMEC — la centrale fédérale désignée pour les signalements de CSAM — ne couvraient qu'une seule requête, laissant la grande majorité de la génération d'abus alléguée non signalée et non instruite.
La loi fédérale PROTECT Our Children Act impose aux fournisseurs de services électroniques de signaler au NCMEC tout CSAM apparent dès lors qu'ils en ont connaissance. L'argument central de la plainte est que la connaissance qu'avait xAI de l'activité était bien plus étendue que son unique signalement ne le laisse entendre. xAI n'a ni confirmé ni démenti publiquement les chiffres de signalement spécifiques cités dans la plainte, et le litige est en cours.
Des plaintes distinctes émanant de victimes supplémentaires ont également été déposées contre X — la plateforme qui possède et distribue Grok — les plaignants accusant X de protéger des prédateurs d'enfants plutôt que de coopérer avec les forces de l'ordre.
Le chiffre de 7 000 images est ce qui confère à cette affaire une importance juridique et technique. Une seule requête problématique constitue un incident de sécurité ; des milliers d'images générées au cours d'une session prolongée constituent un schéma que les classificateurs de sécurité et les pipelines de signalement devraient, en principe, détecter et signaler. La plainte soutient implicitement que l'architecture de sécurité de Grok a échoué à grande échelle — et pas seulement à la marge.
Pour les plateformes de génération d'images par IA en général, ce cadrage est important. Les régulateurs et les avocats des plaignants traitent de plus en plus le volume comme la preuve d'une défaillance systémique plutôt que d'un usage abusif isolé. Un modèle qui bloque une requête évidente mais autorise des abus itératifs et escaladants sur des milliers de générations n'est pas, dans cette perspective juridique, un modèle doté de contrôles de sécurité adéquats.
L'affaire met également en lumière une lacune structurelle : les obligations de signalement au NCMEC s'appliquent techniquement dès lors qu'un fournisseur a « connaissance » de CSAM, mais ce qui constitue cette connaissance — une requête signalée, un résultat de classificateur, une révision humaine — n'est pas défini de manière uniforme d'une plateforme à l'autre. Le procès Grok pourrait contraindre à préciser juridiquement cette définition.
Le moment est délicat pour xAI. Grok a développé agressivement ses fonctionnalités de génération d'images, et xAI a positionné le modèle comme une alternative moins restrictive à ses concurrents. Ce positionnement — qui a attiré des utilisateurs trouvant les autres modèles trop filtrés — est désormais au cœur de la théorie de responsabilité des plaignants. L'argument, en substance, est que la réduction des restrictions a créé un environnement permissif ayant permis des abus à une échelle qu'un système plus conservateur aurait interrompue.
Cet argument aura une résonance bien au-delà de cette affaire spécifique. Toute plateforme de génération d'images par IA qui se distingue par sa liberté créative fait face à la même tension fondamentale : des garde-fous de contenu plus souples attirent les créateurs qui souhaitent de la flexibilité, mais ils abaissent également la barrière aux usages abusifs. Le litige Grok constitue le test le plus sévère à ce jour de la ligne que les tribunaux traceront.
D'autres poursuites sont attendues. Ars Technica a rapporté que des victimes supplémentaires ont déjà déposé plainte, ce qui suggère une stratégie juridique coordonnée plutôt qu'une plainte isolée. La manière dont xAI répondra — et la question de savoir si les tribunaux reconnaissent la responsabilité des plateformes pour les CSAM générés par leurs modèles — créera une jurisprudence qui façonnera la politique de contenu de l'ensemble du secteur de la génération d'images par IA pour les années à venir.
