Crie sua conta gratuita na Charmloop — sem cartão e sem limites para explorar. Comece a criar arte com IA em minutos.
Pesquisadores de segurança demonstraram uma técnica chamada HalluSquatting que transforma alucinações de IA em um pipeline de construção de botnets — e nove das ferramentas de IA mais amplamente utilizadas são suscetíveis, de acordo com reportagem do Ars Technica.
A mecânica é direta — e é exatamente isso que a torna perigosa. Quando um LLM não sabe o nome exato de uma biblioteca ou ferramenta de software, ele não fica em silêncio: gera uma resposta que soa plausível. Atacantes monitoram esses nomes de pacotes alucinados, registram-nos em repositórios públicos como PyPI ou npm antes que qualquer pacote legítimo os reivindique, e então carregam esses pacotes com malware. Qualquer pessoa que pergunte a um assistente de IA «como instalo X?» e siga o resultado literalmente torna-se um ponto de entrada potencial.
O termo «squatting» vem do typosquatting, a prática mais antiga de registrar nomes de domínio quase idênticos para capturar URLs digitadas incorretamente. HalluSquatting é a mesma ideia aplicada às saídas de IA em escala — exceto que a IA está gerando os erros automaticamente, e de forma consistente, em milhões de consultas.
Pesquisadores testaram nove ferramentas de IA proeminentes e descobriram que todas elas, sob as condições certas de prompt, recomendariam pacotes que não existem. As plataformas específicas não foram todas identificadas na cobertura inicial, mas a amplitude — nove ferramentas — indica que isso não é uma peculiaridade de um modelo mal ajustado. É uma propriedade estrutural de como os LLMs lidam com a incerteza.
Para criadores de arte com IA, a exposição imediata não está na geração de imagens em si — está na cadeia de ferramentas ao redor. Fluxos de trabalho construídos em torno de Stable Diffusion, ComfyUI, automatic1111 ou pipelines personalizados de ControlNet frequentemente exigem a instalação de pacotes Python, extensões e nós. Quando criadores encontram um problema de configuração e pedem ajuda a um assistente de programação com IA, estão exatamente no território do HalluSquatting.
Um criador solucionando problemas em um nó personalizado do ComfyUI ou tentando instalar uma nova dependência de treinamento de LoRA via pip é exatamente o usuário que esse ataque mira. O assistente de IA soa com autoridade. O nome do pacote parece legítimo. O comando de instalação está sintaticamente correto. O malware roda silenciosamente.
O mesmo risco se aplica a qualquer pessoa que use ferramentas de IA para estruturar scripts de automação para geração em lote, integrações de API ou pipelines de fine-tuning de modelos — todos comuns em fluxos de trabalho sérios de arte com IA.
Os conselhos padrão — mantenha o software atualizado, não baixe de fontes desconhecidas — não se aplicam claramente a essa ameaça. A fonte aqui é uma ferramenta de IA confiável que o usuário escolheu deliberadamente. O repositório de pacotes (PyPI, npm) é o mesmo que o software legítimo usa. Não há nenhum sinal de alerta óbvio no momento da instalação.
A única defesa confiável é verificar cada nome de pacote de forma independente antes de executar um comando de instalação: consulte a documentação oficial da biblioteca, confirme que o pacote existe no repositório antes de instalar, e verifique contagens de download e datas de publicação como uma verificação básica de sanidade. Um pacote com 12 downloads publicado na última terça-feira é um sinal de alerta, independentemente de com quanta confiança uma IA o recomendou.
Não existe atualização de modelo que feche completamente essa lacuna. Alucinação é uma propriedade probabilística das arquiteturas atuais de LLM, não um bug com uma correção conhecida. Anthropic, OpenAI e outros têm progredido na redução das taxas de alucinação, mas «reduzido» não é «eliminado» — e os atacantes precisam apenas que o modelo erre uma vez.
Para criadores que constroem pipelines locais complexos, tratar instruções de instalação geradas por IA como um ponto de partida a ser verificado, e não como uma resposta final, é agora um hábito de segurança prático — não apenas uma precaução teórica.
