Meta's advertentieplatform toonde betaalde promoties voor een app die expliciet beloofde niet-consensuele naaktdeepfakes te genereren van echte vrouwelijke politici — waarbij ten minste één advertentie een pornografische video bevatte die een zittende Amerikaanse politica leek af te beelden.
Belangrijkste punten
- Meta's advertentiesysteem keurde advertenties goed en toonde ze voor een app die expliciet de mogelijkheid aanprees om naaktdeepfakes te maken van met naam genoemde vrouwelijke politici.
- Ten minste één advertentie bevatte een pornografische video met een deepfake die sterk leek op een echte Amerikaanse politica, aldus Ars Technica.
- Het incident is een direct falen van Meta's advertentiebeoordelingsinfrastructuur, niet slechts een randgeval van contentmoderatie.
- Niet-consensuele intieme beelden (NCII) gegenereerd door AI zijn illegaal in een groeiend aantal Amerikaanse staten en meerdere landen, wat betekent dat platforms die dergelijke advertenties hosten een toenemend juridisch risico lopen.
- Voor makers van AI-afbeeldingen verscherpt dit incident het beleidsklimaat: verwacht de komende maanden strengere identiteits- en gelijkenisvereisten op grote generatieplatforms.
Hoe de advertenties door Meta's beoordelingssysteem kwamen
Volgens Ars Technica waren de advertenties allesbehalve subtiel — ze noemden de mogelijkheid expliciet en demonstreerden die in ten minste één geval met een pornografische deepfake. Dat betekent dat Meta's geautomatiseerde advertentiebeoordeling, die beleidsschendingen vóór publicatie moet onderscheppen, heeft gefaald op het meest basale niveau van contentdetectie. De app verborg niet wat ze deed.
Meta heeft beleid dat advertenties verbiedt voor producten die niet-consensuele intieme beelden faciliteren. Het feit dat deze advertenties de beoordeling toch doorstonden, wijst op een kloof tussen het geschreven beleid en de handhavingsinfrastructuur — een kloof die steeds ernstiger wordt naarmate de kwaliteit van beeldgeneratie verbetert en de kosten voor het produceren van overtuigende deepfakes naar nul naderen.
Het bredere NCII-handhavingsprobleem
Dit is geen geïsoleerd incident. De Grok CSAM-zaak eerder dit jaar — waarbij het beeldgeneratietool van xAI werd gebruikt om een kinderfoto te seksualiseren — toonde aan dat veiligheidsmaatregelen voor AI-afbeeldingen catastrofaal kunnen falen, zelfs op toegewijde generatieplatforms. Meta's situatie is aantoonbaar erger: het falen vond plaats op de advertentiedistributielaag, wat betekent dat het platform betaald werd om de toegang tot de tool te vergroten.
Wetgevend verschuift het landschap snel. De Amerikaanse federale DEFIANCE Act en een lappendeken van staatswetten criminaliseren nu de verspreiding van door AI gegenereerde NCII, en de EU AI Act legt verplichtingen op aan platforms die dergelijke tools hosten of promoten. Advertenties plaatsen voor een app die deepfake-naaktbeelden van met naam genoemde personen aanprijst, is in meerdere rechtsgebieden niet langer alleen een kwestie van gebruiksvoorwaarden.
Wat dit betekent voor AI-beeldplatforms en makers
Voor iedereen die werkt met AI-beeldgeneratie — of je nu personages bouwt, portretten genereert of experimenteert met op gelijkenis gebaseerde prompts — heeft de regelgevende terugslag van dit soort incidenten de neiging om op de hele sector neer te komen, niet alleen op de kwaadwillenden. Wanneer een spraakmakend platform als Meta wordt betrapt op het verspreiden van advertenties voor een naaktificatie-app, is de reactie van wetgevers en andere platforms doorgaans om identiteits- en gelijkenisvereisten breed aan te scherpen.
Praktisch gezien zijn er een paar dingen om in de gaten te houden. Platforms die momenteel flexibele gezichtswissel- of gelijkenisovereenkomstfuncties toestaan, kunnen extra drempels toevoegen — aanvullende toestemmingsvakjes, strengere promptfiltering op met naam genoemde personen, of het volledig verwijderen van bepaalde mogelijkheden. Als je een tool gebruikt waarmee je in prompts naar echte mensen kunt verwijzen bij naam, documenteer dan nu je huidige werkwijzen; die mogelijkheden zijn de eersten die verdwijnen wanneer platforms haastig compliance willen aantonen.
De meer blijvende les gaat over de infrastructuurkloof. Deepfake-naaktificatie-apps zijn niet nieuw, maar hun kwaliteit heeft een drempel overschreden waarbij de output overtuigend genoeg is om op grote schaal als wapen tegen echte mensen te worden ingezet. Die kwaliteitssprong — dezelfde die door AI gegenereerde afbeeldingen nuttiger maakt voor creatief werk — is ook wat deze categorie schade ernstiger maakt. Regelgevers en platforms halen de achterstand in, en het beleidsklimaat voor de komende 12 maanden zal dat weerspiegelen.
Meta had op het moment van berichtgeving geen publieke verklaring afgegeven over de specifieke advertenties. De betreffende app werd niet bij naam genoemd in het Ars Technica-rapport.
