Metas Werbeplattform zeigte bezahlte Anzeigen für eine App, die explizit versprach, nicht einvernehmliche nackte Deepfakes echter weiblicher Politikerinnen zu erstellen – wobei mindestens eine Anzeige ein pornografisches Video enthielt, das offenbar eine amtierende US-Politikerin zeigte.
Die wichtigsten Erkenntnisse
- Metas Werbesystem genehmigte und schaltete Anzeigen für eine App, die explizit damit warb, nackte Deepfakes namentlich genannter Politikerinnen erstellen zu können.
- Mindestens eine Anzeige enthielt ein pornografisches Video mit einem Deepfake, der einer echten US-Politikerin stark ähnelte, wie Ars Technica berichtet.
- Der Vorfall ist ein direktes Versagen von Metas Anzeigenprüfungsinfrastruktur – kein bloßer Randfall der Inhaltsmoderation.
- Nicht einvernehmliche intime Darstellungen (NCII), die von KI generiert werden, sind in einer wachsenden Zahl von US-Bundesstaaten und mehreren Ländern illegal, was bedeutet, dass Plattformen, die solche Anzeigen hosten, einem zunehmenden rechtlichen Risiko ausgesetzt sind.
- Für KI-Bildersteller verschärft dieser Vorfall das regulatorische Umfeld: In den kommenden Monaten sind auf allen großen Generierungsplattformen strengere Identitäts- und Ähnlichkeitsbeschränkungen zu erwarten.
Wie die Anzeigen Metas Prüfsystem passierten
Laut Ars Technica waren die Anzeigen alles andere als subtil – sie nannten die Funktion explizit und demonstrierten sie in mindestens einem Fall mit einem pornografischen Deepfake. Das bedeutet, dass Metas automatisierte Anzeigenprüfung, die Richtlinienverstöße eigentlich erkennen soll, bevor eine Anzeige live geht, auf der grundlegendsten Ebene der Inhaltserkennung versagt hat. Die App versuchte nicht einmal, zu verbergen, was sie tat.
Meta hat Richtlinien, die Werbung für Produkte verbieten, die nicht einvernehmliche intime Darstellungen ermöglichen. Die Tatsache, dass diese Anzeigen die Prüfung dennoch bestanden, weist auf eine Lücke zwischen schriftlicher Richtlinie und Durchsetzungsinfrastruktur hin – eine Lücke, die folgenreicher wird, je besser die Qualität der Bildgenerierung wird und je mehr die Kosten für die Erstellung überzeugender Deepfakes gegen null tendieren.
Das übergeordnete NCII-Durchsetzungsproblem
Dies ist kein Einzelfall. Der Grok-CSAM-Fall Anfang dieses Jahres – bei dem das Bildwerkzeug von xAI dazu verwendet wurde, ein Kindheitsfoto zu sexualisieren – zeigte, dass KI-Bildsicherheitsmaßnahmen katastrophal versagen können, selbst auf dedizierten Generierungsplattformen. Metas Situation ist wohl noch schlimmer: Das Versagen ereignete sich auf der Ebene der Anzeigenverteilung, was bedeutet, dass die Plattform dafür bezahlt wurde, den Zugang zu dem Tool zu verstärken.
Gesetzgeberisch verschiebt sich der Boden schnell. Der US-amerikanische Bundesgesetz DEFIANCE Act und ein Flickenteppich von Landesgesetzen stellen die Verbreitung von KI-generiertem NCII nun unter Strafe, und der EU AI Act legt Plattformen, die solche Tools hosten oder bewerben, Verpflichtungen auf. In mehreren Rechtssystemen ist das Schalten von Anzeigen für eine App, die die Deepfake-Entblößung namentlich genannter Personen vermarktet, keine reine Frage der Nutzungsbedingungen mehr.
Was dies für KI-Bildplattformen und Ersteller bedeutet
Für alle, die mit KI-Bildgenerierung arbeiten – ob Sie Charaktere erstellen, Porträts generieren oder mit ähnlichkeitsbasiertem Prompting experimentieren – tendiert der regulatorische Gegenschlag aus Vorfällen wie diesem dazu, den gesamten Sektor zu treffen, nicht nur die Übeltäter. Wenn eine hochkarätige Plattform wie Meta dabei erwischt wird, Anzeigen für eine Entblößungs-App zu verbreiten, reagieren Gesetzgeber und andere Plattformen in der Regel damit, Identitäts- und Ähnlichkeitsregeln umfassend zu verschärfen.
Praktisch bedeutet das einige Dinge, die es zu beobachten gilt. Plattformen, die derzeit flexible Face-Swap- oder Ähnlichkeitsabgleichsfunktionen erlauben, könnten zusätzliche Hürden einführen – zusätzliche Einwilligungskontrollkästchen, strengere Prompt-Filterung bei namentlich genannten Personen oder die vollständige Entfernung bestimmter Funktionen. Wenn Sie ein Tool verwenden, das es Ihnen ermöglicht, in Prompts auf echte Personen namentlich zu verweisen, dokumentieren Sie Ihre aktuellen Arbeitsabläufe jetzt; diese Möglichkeiten sind die ersten, die wegfallen, wenn Plattformen beeilen, ihre Compliance zu demonstrieren.
Die dauerhaftere Lektion betrifft die Infrastrukturlücke. Deepfake-Entblößungs-Apps sind nicht neu, aber ihre Qualität hat eine Schwelle überschritten, bei der die Ausgabe überzeugend genug ist, um in großem Maßstab gegen echte Menschen eingesetzt zu werden. Dieser Qualitätssprung – derselbe, der KI-generierte Bilder für kreative Arbeit nützlicher macht – ist auch das, was diese Kategorie von Schäden schwerwiegender macht. Regulierungsbehörden und Plattformen holen auf, und das politische Umfeld der nächsten 12 Monate wird dies widerspiegeln.
Meta hatte zum Zeitpunkt der Berichterstattung keine öffentliche Stellungnahme zu den spezifischen Anzeigen abgegeben. Die betreffende App wurde im Ars-Technica-Bericht nicht namentlich genannt.
