A plataforma de publicidade da Meta exibiu promoções pagas para um aplicativo que prometia explicitamente gerar deepfakes íntimos não consensuais de políticas reais — com pelo menos um anúncio contendo um vídeo pornográfico que retratava o que parecia ser uma parlamentar americana em exercício.
Principais conclusões
- O sistema de anúncios da Meta aprovou e veiculou anúncios de um app que comercializava explicitamente a capacidade de criar deepfakes nudificados de políticas identificadas pelo nome.
- Pelo menos um anúncio incluía um vídeo pornográfico com um deepfake muito semelhante a uma política americana real, segundo o Ars Technica.
- O incidente representa uma falha direta na infraestrutura de revisão de anúncios da Meta, e não apenas um caso limite de moderação de conteúdo.
- Imagens íntimas não consensuais (NCII) geradas por IA são ilegais em um número crescente de estados americanos e em vários países, o que significa que plataformas que hospedam tais anúncios enfrentam exposição legal crescente.
- Para criadores de imagens com IA, o episódio endurece o ambiente regulatório: espere restrições mais rígidas sobre identidade e uso de semelhança nas principais plataformas de geração nos próximos meses.
Como os Anúncios Passaram pelo Sistema de Revisão da Meta
De acordo com o Ars Technica, os anúncios não eram sutis — nomeavam a funcionalidade explicitamente e, em pelo menos um caso, a demonstravam com um deepfake pornográfico. Isso significa que a revisão automatizada de anúncios da Meta, que deveria detectar violações de política antes de um anúncio entrar no ar, falhou no nível mais básico de detecção de conteúdo. O app não escondia o que fazia.
A Meta possui políticas que proíbem anúncios de produtos que facilitam imagens íntimas não consensuais. O fato de esses anúncios terem passado pela revisão mesmo assim aponta para uma lacuna entre a política escrita e a infraestrutura de aplicação — uma lacuna que se torna mais grave à medida que a qualidade da geração de imagens melhora e o custo de produzir deepfakes convincentes se aproxima de zero.
O Problema Mais Amplo de Aplicação das Normas sobre NCII
Este não é um incidente isolado. O caso Grok CSAM no início deste ano — em que a ferramenta de imagens da xAI foi usada para sexualizar uma fotografia de infância — mostrou que as salvaguardas de segurança em IA para imagens podem falhar de forma catastrófica mesmo em plataformas de geração dedicadas. A situação da Meta é indiscutivelmente pior: a falha ocorreu na camada de distribuição de anúncios, o que significa que a plataforma foi paga para ampliar o acesso à ferramenta.
No campo legislativo, o cenário está mudando rapidamente. O DEFIANCE Act federal dos EUA e um conjunto fragmentado de leis estaduais já criminalizam a distribuição de NCII gerado por IA, e o AI Act da UE impõe obrigações às plataformas que hospedam ou promovem tais ferramentas. Veicular anúncios de um app que comercializa a nudificação por deepfake de indivíduos identificados pelo nome é, em várias jurisdições, uma questão que vai muito além dos termos de serviço.
O que Isso Sinaliza para Plataformas de Imagens com IA e Criadores
Para quem trabalha com geração de imagens por IA — seja criando personagens, gerando retratos ou experimentando prompts baseados em semelhança — o contragolpe regulatório de incidentes como este tende a atingir todo o setor, não apenas os maus atores. Quando uma plataforma de alto perfil como a Meta é flagrada distribuindo anúncios de um app de nudificação, a resposta de legisladores e outras plataformas costuma ser endurecer as regras sobre identidade e uso de semelhança de forma ampla.
Na prática, isso significa algumas coisas a observar. Plataformas que atualmente permitem recursos flexíveis de troca de rosto ou correspondência de semelhança podem adicionar fricção — caixas de consentimento adicionais, filtragem mais rigorosa de prompts com nomes de indivíduos reais ou remoção definitiva de determinadas funcionalidades. Se você usa uma ferramenta que permite referenciar pessoas reais pelo nome em prompts, documente seus fluxos de trabalho atuais agora; essas facilidades são as primeiras a desaparecer quando as plataformas correm para demonstrar conformidade.
A lição mais duradoura diz respeito à lacuna de infraestrutura. Apps de nudificação por deepfake não são novidade, mas sua qualidade cruzou um limiar em que o resultado é convincente o suficiente para ser usado como arma contra pessoas reais em escala. Esse salto de qualidade — o mesmo que torna as imagens geradas por IA mais úteis para trabalhos criativos — é também o que torna essa categoria de dano mais grave. Reguladores e plataformas estão se atualizando, e o ambiente regulatório dos próximos 12 meses refletirá isso.
A Meta não havia emitido uma declaração pública sobre os anúncios específicos no momento da reportagem. O app em questão não foi identificado pelo nome no relatório do Ars Technica.
