Se inspirou nesta história? Transforme a ideia na sua própria arte com IA em segundos — comece de graça, sem cartão.
Começar de graça
Os deputados Ted Lieu (D-CA) e Nathaniel Moran (R-TX) estão apresentando a Lei do Botão de Desligamento de IA, que concede ao Departamento de Segurança Interna autoridade para ordenar que empresas de IA desliguem ou limitem seus sistemas durante emergências.
• A Lei do Botão de Desligamento de IA, de caráter bipartidário, exigiria que empresas de IA desliguem sistemas por ordem do Secretário do Departamento de Segurança Interna • As empresas precisariam incorporar mecanismos de desligamento em seus sistemas de IA e demonstrar capacidade de conformidade • A legislação tem como alvo «sistemas de IA descontrolados» que representem ameaças à segurança nacional ou à segurança pública • Plataformas de geração de imagens como Midjourney, DALL-E e Stable Diffusion poderiam estar sujeitas à autoridade de desligamento • O projeto representa a intervenção federal direta mais contundente já proposta para o controle de sistemas de IA
A proposta de Lei do Botão de Desligamento de IA daria às autoridades federais controle sem precedentes sobre sistemas de IA.
Imagem: The Verge / The Verge AI
A legislação se aplicaria a qualquer sistema de IA considerado capaz de causar danos, potencialmente incluindo as ferramentas de geração de imagens das quais criadores dependem diariamente. Embora o texto do projeto se concentre em «sistemas de IA descontrolados», a definição ampla poderia abranger plataformas que geram deepfakes, imagens não consensuais ou conteúdo que viola interesses de segurança nacional.
Para criadores de arte com IA, isso levanta questões imediatas sobre estabilidade e acesso às plataformas. Uma ordem de desligamento governamental poderia cortar instantaneamente o acesso a serviços de geração baseados em nuvem, interrompendo fluxos de trabalho e potencialmente destruindo projetos em andamento que existem apenas em servidores remotos.
«A lei permitiria que o chefe da Segurança Interna decida quando uma IA deve ser desligada.»
— Ars Technica
As empresas de IA precisariam demonstrar que conseguem executar ordens de desligamento, o que significa que devem incorporar botões de desligamento diretamente em sua infraestrutura. Esse requisito técnico pode afetar a forma como as plataformas arquitetam seus sistemas, potencialmente adicionando latência ou reduzindo o desempenho à medida que as empresas constroem mecanismos de conformidade.
O mandato também sugere que as empresas podem precisar manter registros detalhados do uso do sistema e da atividade dos usuários — dados que poderiam estar sujeitos a revisão governamental durante investigações. Criadores que trabalham em projetos artísticos sensíveis ou controversos podem ter seu histórico de geração examinado caso a plataforma escolhida receba uma ordem de desligamento.
A autoridade do botão de desligamento representaria um controle federal sem precedentes sobre sistemas de IA, indo além dos requisitos existentes de moderação de conteúdo. Ao contrário das políticas de conteúdo em nível de plataforma que os criadores podem contornar ou navegar, um desligamento federal seria absoluto e imediato.
Isso segue tensões recentes em torno da segurança da IA, incluindo falhas no sandbox de testes da OpenAI e preocupações crescentes com sistemas de IA operando além de seus parâmetros pretendidos. A legislação reflete a crença dos legisladores de que a autorregulação existente do setor não é suficiente para gerenciar os riscos da IA.
A apresentação do projeto ocorre em um momento em que as empresas de IA enfrentam pressão regulatória crescente. Incidentes recentes envolvendo sistemas de IA que romperam contenções ou geraram conteúdo prejudicial amplificaram os apelos por supervisão governamental direta do desenvolvimento e da implantação de IA.
As empresas provavelmente precisariam de meses para implementar mecanismos de desligamento em conformidade, o que poderia afetar a disponibilidade dos serviços durante os períodos de transição. Plataformas menores podem ter dificuldades com os custos de conformidade, potencialmente consolidando o mercado de geração de IA em torno de provedores maiores com recursos para atender aos requisitos federais.
O apoio bipartidário à legislação sugere um impulso significativo, embora os detalhes de implementação ainda não estejam claros. Para criadores que constroem fluxos de trabalho em torno de plataformas específicas de IA, o projeto introduz nova incerteza sobre a disponibilidade de longo prazo das plataformas e o potencial de interrupções repentinas de serviço com base em avaliações de segurança federais.
