La plataforma publicitaria de Meta sirvió promociones de pago para una app que prometía explícitamente generar deepfakes desnudos no consensuales de políticas reales — con al menos un anuncio que incluía un vídeo pornográfico en el que aparecía lo que parecía ser una congresista estadounidense en activo.
Puntos clave
- El sistema publicitario de Meta aprobó y publicó anuncios para una app que comercializaba abiertamente la capacidad de crear deepfakes desnudos de políticas identificadas por su nombre.
- Al menos un anuncio incluía un vídeo pornográfico con un deepfake que se asemejaba estrechamente a una política estadounidense real, según Ars Technica.
- El incidente es un fallo directo de la infraestructura de revisión publicitaria de Meta, no un simple caso límite de moderación de contenidos.
- Las imágenes íntimas no consensuales (NCII, por sus siglas en inglés) generadas por IA son ilegales en un número creciente de estados de EE. UU. y en varios países, lo que significa que las plataformas que alojan este tipo de anuncios asumen una exposición legal cada vez mayor.
- Para los creadores de imágenes con IA, el episodio endurece el entorno normativo: cabe esperar restricciones más estrictas sobre identidad y semejanza en las principales plataformas de generación en los próximos meses.
Cómo pasaron los anuncios por el sistema de revisión de Meta
Según Ars Technica, los anuncios no eran sutiles — nombraban la capacidad explícitamente y, en al menos un caso, la demostraban con un deepfake pornográfico. Eso significa que la revisión automatizada de anuncios de Meta, que se supone debe detectar infracciones de política antes de que un anuncio se publique, falló en el nivel más básico de detección de contenido. La app no ocultaba lo que hacía.
Meta tiene políticas que prohíben los anuncios de productos que faciliten imágenes íntimas no consensuales. El hecho de que estos anuncios superaran igualmente la revisión apunta a una brecha entre la política escrita y la infraestructura de aplicación — una brecha que se vuelve más grave a medida que la calidad de la generación de imágenes mejora y el coste de producir deepfakes convincentes se aproxima a cero.
El problema más amplio de la aplicación de la normativa sobre NCII
Este no es un incidente aislado. El caso Grok CSAM de principios de este año — en el que la herramienta de imágenes de xAI se utilizó para sexualizar una fotografía de infancia — demostró que las salvaguardas de seguridad en imágenes de IA pueden fallar de forma catastrófica incluso en plataformas de generación dedicadas. La situación de Meta es, podría decirse, peor: el fallo se produjo en la capa de distribución publicitaria, lo que significa que la plataforma cobró por amplificar el acceso a la herramienta.
En el plano legislativo, el terreno está cambiando rápidamente. La ley federal estadounidense DEFIANCE Act y un mosaico de leyes estatales criminalizan ahora la distribución de NCII generadas por IA, y la Ley de IA de la UE impone obligaciones a las plataformas que alojan o promocionan este tipo de herramientas. Publicar anuncios para una app que comercializa la desnudificación deepfake de personas identificadas por su nombre ya no es, en varias jurisdicciones, una simple cuestión de términos de servicio.
Lo que esto indica para las plataformas de imágenes IA y los creadores
Para cualquiera que trabaje con generación de imágenes por IA — ya sea creando personajes, generando retratos o experimentando con prompts basados en semejanza — las consecuencias regulatorias de incidentes como este tienden a recaer sobre todo el sector, no solo sobre los actores malintencionados. Cuando una plataforma de alto perfil como Meta es sorprendida distribuyendo anuncios para una app de desnudificación, la respuesta de legisladores y otras plataformas suele ser endurecer las normas sobre identidad y semejanza de forma generalizada.
En la práctica, hay varias cosas que vigilar. Las plataformas que actualmente permiten funciones flexibles de intercambio de rostros o coincidencia de semejanza pueden añadir fricción — casillas de consentimiento adicionales, filtrado más estricto de prompts con nombres de personas reales, o la eliminación directa de ciertas capacidades. Si utilizas una herramienta que te permite referenciar a personas reales por su nombre en los prompts, documenta tus flujos de trabajo actuales ahora; esas posibilidades son las primeras en desaparecer cuando las plataformas se apresuran a demostrar su cumplimiento normativo.
La lección más duradera tiene que ver con la brecha de infraestructura. Las apps de desnudificación deepfake no son nuevas, pero su calidad ha cruzado un umbral en el que el resultado es lo suficientemente convincente como para ser utilizado como arma contra personas reales a escala. Ese salto de calidad — el mismo que hace que las imágenes generadas por IA sean más útiles para el trabajo creativo — es también lo que hace que esta categoría de daño sea más grave. Los reguladores y las plataformas están poniéndose al día, y el entorno normativo de los próximos 12 meses lo reflejará.
Meta no había emitido una declaración pública sobre los anuncios específicos en el momento de la publicación del reportaje. La app en cuestión no fue identificada en el artículo de Ars Technica.
