La plateforme publicitaire de Meta a diffusé des promotions payantes pour une application qui promettait explicitement de générer des deepfakes intimes non consentis de vraies femmes politiques — avec au moins une publicité contenant une vidéo pornographique représentant ce qui semblait être une élue américaine en exercice.
Points clés
- Le système publicitaire de Meta a approuvé et diffusé des annonces pour une application commercialisant explicitement la capacité à créer des deepfakes dénudés de femmes politiques nommément désignées.
- Au moins une publicité incluait une vidéo pornographique mettant en scène un deepfake ressemblant étroitement à une vraie élue américaine, selon Ars Technica.
- L'incident constitue un échec direct de l'infrastructure de révision publicitaire de Meta, et pas seulement un cas limite de modération de contenu.
- Les images intimes non consenties (NCII) générées par l'IA sont illégales dans un nombre croissant d'États américains et dans plusieurs pays, ce qui signifie que les plateformes hébergeant de telles publicités s'exposent à des risques juridiques croissants.
- Pour les créateurs d'images par IA, cet épisode durcit l'environnement réglementaire : des restrictions plus strictes sur l'identité et la ressemblance sont à prévoir sur les principales plateformes de génération dans les mois à venir.
Comment les publicités ont contourné le système de révision de Meta
Selon Ars Technica, les publicités n'étaient pas subtiles — elles nommaient explicitement la fonctionnalité et, dans au moins un cas, la démontraient avec un deepfake pornographique. Cela signifie que la révision automatisée des publicités de Meta, censée détecter les violations de politique avant la mise en ligne d'une annonce, a échoué au niveau le plus élémentaire de la détection de contenu. L'application ne dissimulait pas ce qu'elle faisait.
Meta dispose de politiques interdisant les publicités pour des produits facilitant la création d'images intimes non consenties. Le fait que ces annonces aient tout de même passé la révision révèle un écart entre la politique écrite et l'infrastructure d'application — un écart qui devient de plus en plus problématique à mesure que la qualité de la génération d'images s'améliore et que le coût de production de deepfakes convaincants tend vers zéro.
Le problème plus large de l'application des règles sur les NCII
Ce n'est pas un incident isolé. L'affaire Grok CSAM plus tôt cette année — dans laquelle l'outil d'image de xAI a été utilisé pour sexualiser une photographie d'enfance — a montré que les garde-fous de sécurité des images par IA peuvent échouer de manière catastrophique même sur des plateformes de génération dédiées. La situation de Meta est sans doute pire : l'échec s'est produit au niveau de la couche de distribution publicitaire, ce qui signifie que la plateforme a été rémunérée pour amplifier l'accès à l'outil.
Sur le plan législatif, le terrain évolue rapidement. Le DEFIANCE Act fédéral américain et un ensemble hétérogène de lois étatiques criminalisent désormais la distribution de NCII générées par IA, et la loi européenne sur l'IA impose des obligations aux plateformes qui hébergent ou promeuvent de tels outils. Diffuser des publicités pour une application commercialisant la nudification deepfake de personnes nommément désignées constitue, dans plusieurs juridictions, bien plus qu'une simple question de conditions d'utilisation.
Ce que cela signale pour les plateformes d'images par IA et les créateurs
Pour quiconque travaille avec la génération d'images par IA — que vous créiez des personnages, génériez des portraits ou expérimentiez avec des prompts basés sur la ressemblance — les répercussions réglementaires d'incidents comme celui-ci ont tendance à toucher l'ensemble du secteur, et pas seulement les mauvais acteurs. Lorsqu'une plateforme de premier plan comme Meta est prise en flagrant délit de diffusion de publicités pour une application de nudification, la réponse des législateurs et des autres plateformes consiste généralement à resserrer les règles sur l'identité et la ressemblance de manière globale.
Concrètement, cela implique quelques points à surveiller. Les plateformes qui autorisent actuellement des fonctionnalités flexibles d'échange de visages ou de correspondance de ressemblance pourraient ajouter des frictions — cases à cocher de consentement supplémentaires, filtrage plus strict des prompts sur les personnes nommément désignées, ou suppression pure et simple de certaines fonctionnalités. Si vous utilisez un outil qui vous permet de référencer de vraies personnes par leur nom dans des prompts, documentez vos flux de travail actuels dès maintenant ; ces possibilités sont les premières à disparaître lorsque les plateformes s'empressent de démontrer leur conformité.
La leçon la plus durable concerne l'écart d'infrastructure. Les applications de nudification deepfake ne sont pas nouvelles, mais leur qualité a franchi un seuil où le résultat est suffisamment convaincant pour être utilisé comme arme contre de vraies personnes à grande échelle. Ce bond qualitatif — le même qui rend les images générées par IA plus utiles pour le travail créatif — est aussi ce qui rend cette catégorie de préjudice plus grave. Les régulateurs et les plateformes rattrapent leur retard, et l'environnement réglementaire des 12 prochains mois en sera le reflet.
Meta n'avait pas publié de déclaration officielle sur les publicités en question au moment de la rédaction de cet article. L'application concernée n'était pas nommée dans le rapport d'Ars Technica.
