O procurador da cidade de São Francisco ordenou que Apple e Google removam apps de IA para nudificação de suas respectivas lojas de aplicativos, argumentando que ambas as empresas lucraram — provavelmente milhões de dólares em taxas — com ferramentas projetadas para gerar imagens íntimas não consensuais.
Principais pontos
- O procurador da cidade de São Francisco emitiu ordens formais para Apple e Google exigindo a remoção de apps de IA para nudificação da App Store e Google Play.
- Estimativas oficiais sugerem que ambas as plataformas coletivamente ganharam milhões em taxas desses apps.
- A ação tem como alvo as plataformas como beneficiárias comerciais, não apenas os próprios desenvolvedores de apps.
- O movimento é a pressão governamental mais direta até agora sobre grandes lojas de aplicativos para policiar ferramentas de geração de imagens de IA que produzem imagens íntimas não consensuais.
- Nem Apple nem Google confirmaram publicamente o cumprimento até o lançamento da ordem.
O Argumento da Plataforma como Lucradora
De acordo com o Ars Technica, o escritório do procurador da cidade enquadrou o caso diretamente em torno do dinheiro: Apple e Google não apenas hospedam esses apps passivamente — elas coletam uma fatia padrão de 15–30% de compras no app e taxas de assinatura. Quando apps de nudificação monetizam através de assinaturas, essa receita flui diretamente para as plataformas. A teoria legal é que aceitar essa fatia torna ambas as empresas participantes ativas no dano, não condutos neutros.
Esse enquadramento importa para o ecossistema mais amplo de arte de IA. Reguladores estão cada vez mais tratando a camada de infraestrutura — lojas de aplicativos, provedores de API, hosts de nuvem — como legalmente responsáveis pelo que roda em cima dela. A mesma lógica que se aplica a apps de nudificação poderia, em ações futuras, se estender a qualquer ferramenta de geração de imagens que reguladores decidam que produz conteúdo prejudicial em escala.
O Que Apps de «Nudificação» Realmente Fazem — e Por Que São Diferentes
Apps de nudificação são uma categoria específica de ferramenta de imagem de IA: eles pegam uma foto vestida de uma pessoa real e geram uma versão nua sintética sem o conhecimento ou consentimento dessa pessoa. Isso os distingue claramente de geradores de imagem de IA de propósito geral, onde um usuário constrói uma imagem a partir de um prompt de texto ou carrega imagens de referência que controla. O uso não consensual da semelhança de uma pessoa real é o problema legal e ético central, e é o que separa essa categoria das ferramentas criativas mais amplas que criadores de arte de IA usam diariamente em plataformas como o gerador do Charmloop.
A distinção vale a pena manter clara: esta ação não é um ataque amplo contra a geração de imagens de IA como prática. Ela tem como alvo um caso de uso específico e violador de consentimento. Mas o momentum regulatório que constrói é real, e qualquer plataforma que hospede ferramentas de geração de imagens agora está observando como Apple e Google respondem.
A Política da Loja de Aplicativos Sempre Foi o Elo Fraco
Tanto Apple quanto Google têm políticas existentes que nominalmente proíbem apps que geram imagens íntimas não consensuais. A ação do procurador da cidade é essencialmente uma acusação de que essas políticas não foram aplicadas — que os apps passaram pela revisão, permaneceram ativos tempo suficiente para gerar receita substancial de assinatura, e foram removidos (se é que foram) apenas sob pressão externa.
Para criadores de IA, essa lacuna de aplicação tem uma consequência prática: as lojas de aplicativos são um canal de distribuição não confiável para qualquer ferramenta de imagem de IA que opera perto das bordas da política de conteúdo. Desenvolvedores construindo ferramentas criativas legítimas há muito reclamam que o processo de revisão da Apple é inconsistente e opaco. Este caso adiciona pressão política que poderia empurrar Apple e Google em direção a restrições gerais em apps de geração de imagens de IA — o tipo de correção excessiva que pega ferramentas legítimas na mesma rede que as prejudiciais.
O Que Vem a Seguir
O procurador da cidade de São Francisco não tem jurisdição federal, então os dentes legais da ordem dependem da lei da Califórnia e da disposição da Apple e Google de cumprir em vez de litigar. Nenhuma empresa confirmou publicamente que removerá os apps sinalizados. Se resistirem, o caso poderia estabelecer um precedente — ou expor os limites da autoridade municipal sobre plataformas globais de distribuição de aplicativos.
Para criadores construindo fluxos de trabalho em torno de ferramentas de imagem de IA, o sinal mais imediato é legislativo: vários estados e o governo federal estão avançando projetos de lei que explicitamente criminalizariam imagens íntimas geradas por IA não consensuais. Essas leis, ao contrário da carta de um procurador da cidade, carregariam penalidades aplicáveis e poderiam remodelar o que modelos de geração de imagens são permitidos fazer — e que filtros de segurança provedores são legalmente obrigados a construir. Manter-se atualizado sobre esse arco regulatório é tão importante quanto acompanhar lançamentos de modelos. Nossa cobertura anterior do processo da xAI contra usuários do Grok por geração de CSAM mostra quão rapidamente o cenário legal em torno de imagens prejudiciais geradas por IA está se movendo.
