Iris cobre o encontro entre a arte com IA e a cultura: estilo, autoria e as imagens que importam.
Se inspirou nesta história? Transforme a ideia na sua própria arte com IA em segundos — comece de graça, sem cartão.
Começar de graçaEscolha um companheiro e veja o que ele acha dessa história
O prospecto de IPO recém-arquivado da Anthropic revelou detalhes significativos sobre sua estratégia de "IA Constitucional", uma abordagem centrada na segurança que pode remodelar fundamentalmente como os modelos de IA, incluindo aqueles para geração de imagens, são desenvolvidos e como os criadores interagem com seus resultados.
Em sua essência, a IA Constitucional envolve treinar modelos para avaliar e revisar seus próprios resultados com base em um conjunto predefinido de princípios. Em vez de feedback humano para cada decisão de moderação, a própria IA aprende a aplicar uma 'constituição' de regras. Isso significa que os modelos são projetados para serem inerentemente mais seguros, filtrando respostas que violam esses princípios antes mesmo de chegarem ao usuário. Por exemplo, se um prompt para um modelo de geração de imagens puder levar a conteúdo potencialmente prejudicial, um modelo treinado constitucionalmente tentaria reformular ou recusar a geração com base em suas diretrizes internas.
A "constituição" em si é um conjunto de regras em cascata, inspirando-se em fontes como uma versão modificada das Leis da Robótica de Isaac Asimov e a Declaração Universal dos Direitos Humanos da ONU, conforme relatado pela The MIT Technology Review. Essa abordagem em camadas permite que a IA desenvolva uma compreensão matizada do que constitui um resultado aceitável ou inaceitável. Para criadores que trabalham com arte de IA, isso pode se traduzir em modelos menos propensos a gerar imagens tendenciosas, explícitas ou problemáticas, transferindo o ônus da filtragem ética do usuário final para a arquitetura do modelo.
"A empresa treina modelos de IA não com feedback humano, mas com um conjunto de princípios em cascata, incluindo uma versão modificada das Leis da Robótica de Isaac Asimov e a Declaração Universal dos Direitos Humanos da ONU."
— The MIT Technology Review
Esse mecanismo de autocorreção tem implicações diretas para o prompting. Os criadores podem descobrir que prompts altamente ambíguos ou eticamente cinzentos produzem resultados mais consistentes e seguros, ou são totalmente recusados, em vez de produzir imagens imprevisíveis ou prejudiciais. Isso sugere um futuro onde a bússola ética interna da IA é um fator mais significativo no resultado final do que é em muitos modelos atuais, onde a segurança geralmente depende de filtros de pós-processamento ou relatórios do usuário. Isso poderia tornar o processo de geração de imagens mais previsível dentro dos limites éticos, potencialmente otimizando os fluxos de trabalho para artistas e designers profissionais que precisam de conteúdo confiável e seguro para a marca.
Embora o foco na segurança seja primordial, a abordagem da IA Constitucional também pode influenciar o escopo estético e temático da arte gerada por IA. Modelos treinados sob diretrizes tão estritas podem inerentemente tender a interpretações visuais mais convencionais ou 'seguras', potencialmente limitando a exploração de conceitos artísticos de vanguarda, provocativos ou que ultrapassam limites. Artistas acostumados à liberdade irrestrita, muitas vezes caótica, dos modelos de IA anteriores podem precisar adaptar suas estratégias de prompting para se alinhar a essas novas estruturas éticas. É uma troca: maior confiabilidade e segurança versus fronteiras criativas potencialmente restritas.
Para aqueles que valorizam a máxima liberdade criativa, este desenvolvimento destaca a divergência contínua nas filosofias dos modelos de IA. Alguns modelos priorizam a saída bruta e o controle do usuário, enquanto outros, como os da Anthropic, incorporam a segurança mais profundamente em seu núcleo. Os criadores precisarão cada vez mais escolher suas ferramentas com base não apenas na qualidade ou velocidade da imagem, mas nas filosofias éticas e criativas subjacentes que governam seu desenvolvimento. Isso pode levar a uma maior demanda por uma gama diversificada de modelos, cada um atendendo a diferentes necessidades artísticas e considerações éticas, assim como diferentes movimentos artísticos priorizam valores estéticos distintos. Compreender essas distinções é crucial para qualquer pessoa que queira dominar a arte da geração de imagens por IA. À medida que o cenário da IA evolui, a escolha do modelo refletirá cada vez mais a postura de um criador sobre essas questões fundamentais.
Assista: Estratégia de 'IA Constitucional' da Anthropic
Essa iniciativa da Anthropic ressalta uma crescente tendência da indústria em incorporar práticas de IA responsável desde o início, em vez de como um item a ser pensado posteriormente. Isso sinaliza um futuro onde os modelos de IA não são apenas poderosos, mas também construídos com uma bússola moral, visando prevenir o uso indevido e promover a confiança na tecnologia. Essa mudança pode estabelecer um novo padrão para o desenvolvimento de IA, influenciando como outros provedores abordam o treinamento de modelos e a moderação de conteúdo, e, em última análise, moldando a cultura visual gerada pela IA nos próximos anos.