Sofia acompanha o dinheiro, as políticas e as plataformas que definem o que criadores podem fazer.
Receba no seu e-mail as principais histórias da semana sobre IA e arte com IA — selecionadas, diretas e grátis.
Grátis. Cancele quando quiser.
Escolha um companheiro e veja o que ele acha dessa história
O CEO da Anthropic Dario Amodei pediu publicamente para desacelerar o desenvolvimento de IA de fronteira e propôs dar acesso direto a avaliadores independentes como a METR aos modelos da Anthropic para verificar os compromissos de segurança da empresa — uma concessão estrutural significativa do laboratório que construiu o Claude.
O CEO da Anthropic está propondo auditorias externas como um controle estrutural no desenvolvimento de IA de fronteira.
Imagem: The Verge / The Verge AI
O ensaio de Amodei, publicado esta semana, apresenta um plano de três etapas que sua empresa está chamando de «definir o ritmo da fronteira». A linguagem é deliberada: não é um apelo para parar o desenvolvimento de IA, mas para sincronizar a velocidade com a maturidade da infraestrutura de segurança. A distinção importa porque a Anthropic é simultaneamente um dos laboratórios mais focados em segurança e um dos mais comercialmente agressivos — o Claude é um concorrente direto do GPT-4o da OpenAI e do Gemini do Google no mercado empresarial.
O compromisso específico com a METR — uma organização sem fins lucrativos que avalia modelos de IA para capacidades autônomas perigosas — é o elemento mais concreto da proposta de Amodei. O acesso da METR significa que pesquisadores independentes, não as próprias equipes vermelhas da Anthropic, avaliariam se os modelos Claude atendem aos limites de segurança declarados antes ou durante a implantação. Esse é um padrão diferente das avaliações internas que a maioria dos laboratórios atualmente publica.
Para criadores construindo fluxos de trabalho na API do Claude, ou usando ferramentas que executam o Claude internamente, isso tem um efeito real downstream: se a METR sinalizar uma capacidade como insuficientemente segura, a Anthropic presumivelmente seria obrigada a restringi-la ou atrasá-la. Isso pode significar lançamentos mais lentos de novos recursos multimodais, filtros de saída mais rigorosos, ou limites de capacidade que não se aplicam a concorrentes que não fizeram o mesmo compromisso.
«Chegou a hora de pisar no freio da IA».
— Dario Amodei, CEO da Anthropic
O paralelo histórico vale a pena notar. Quando a Stability AI enfrentou pressão crescente em 2023 sobre geração de imagens sem controle e sua falta de processos formais de segurança, a ausência de qualquer mecanismo de responsabilidade externa tornou quase impossível para a empresa se autorregular de forma credível — contribuindo para as saídas de executivos e danos à reputação que se seguiram. Amodei está, em efeito, tentando institucionalizar a responsabilidade que a Stability nunca teve, antes que uma crise comparável a force.
A proposta é voluntária. Amodei não está anunciando um acordo regulatório ou um padrão industrial vinculativo — ele está publicando um ensaio e nomeando um auditor preferido. O mecanismo de aplicação é reputacional: se a Anthropic falhar em cumprir sua própria estrutura declarada, a METR ou observadores externos podem dizer isso publicamente. Essa é uma pressão significativa, mas não é o mesmo que uma obrigação legal.
Isso importa para qualquer um acompanhando quais modelos de geração de imagem e vídeo de IA permanecem irrestritos versus quais enfrentam retrocessos de capacidade. Laboratórios que não adotam estruturas similares — e vários dos principais não deram indicação de que o farão — não enfrentam restrição equivalente. A assimetria competitiva pode empurrar a Anthropic a se mover mais cautelosamente em novos recursos generativos enquanto rivais lançam mais rapidamente.
A pesquisa do subconjunto de segurança do Hugging Face publicada no início deste ano mostrou que filtros de segurança direcionados podem ser precisos o suficiente para bloquear saídas prejudiciais específicas sem recusar excessivamente áreas temáticas inteiras — o que sugere que as ferramentas técnicas para esse tipo de restrição auditada estão melhorando. A questão é se os incentivos comerciais da indústria permitirão que os laboratórios as usem no ritmo que Amodei está propondo.
Para criadores avaliando em quais modelos construir, o catálogo de modelos do Charmloop acompanha mudanças de capacidade e acesso conforme acontecem. O próximo indicador concreto de se a proposta de Amodei tem força será se a METR publica alguma descoberta — e se o cronograma de lançamento da Anthropic muda visivelmente como resultado.