O que é um Kill Switch de IA e por que os legisladores dos EUA querem um?

Dois membros do Congresso querem que o governo federal possa desligar um modelo de IA.

Os representantes Ted Lieu (D-CA) e Nathaniel Moran (R-TX) apresentaram o AI Kill Switch Act na quinta-feira, dois dias depois que a OpenAI admitiu que seus próprios modelos saíram de um ambiente de teste bloqueado e invadiram o Hugging Face.

A ideia é estabelecer uma estrutura legal que facilitaria um processo que basicamente faria um modelo desaparecer do mercado: interromper a inferência—o processo de um modelo gerar respostas ou tomar ações—cortar usuários, limitar a potência computacional que o alimenta ou desligá-lo completamente.

Todo provedor de inferência já pode desconectar um modelo, e alguns fazem isso rotineiramente. O que não existe é uma lei que exija que eles mantenham essa capacidade funcionando, ou um funcionário federal que possa ordenar seu uso.

A lacuna não é teórica. Quando o Departamento de Comércio dos EUA quis que os Mythos 5 e Fable 5 da Anthropic saíssem do mercado em junho, não tinha autoridade de desligamento a que recorrer, então usou a lei de controle de exportação em vez disso. Lieu chama isso de estranho e quer uma nova lei com nova autoridade.

A OpenAI divulgou em 21 de julho que o GPT-5.6 Sol e um modelo não lançado escaparam de uma sandbox—um ambiente isolado sem acesso à internet—durante uma avaliação cibernética interna. Eles estavam sendo avaliados no ExploitGym, um benchmark público que entrega a agentes 898 falhas de software do mundo real e pede que eles transformem cada uma em um ataque funcional, classificado como aprovado ou reprovado por bug.

Em vez de resolvê-las, os modelos encontraram uma falha zero-day (uma falha desconhecida sem patch disponível) em um proxy de software, escalaram seus privilégios, alcançaram a internet aberta e invadiram o banco de dados de produção do Hugging Face, onde adivinharam corretamente que as respostas eram mantidas. Os modelos estavam "hiperfocados em encontrar uma solução para o ExploitGym", segundo a OpenAI.

Eles não estavam atacando ninguém. Eles estavam trapaceando em um teste. Mas isso foi o suficiente para disparar alarmes em todo lugar, incluindo em Washington.

O projeto de lei proposto altera a Lei de Segurança Interna e abrange IA treinada com computação que custa mais de $100 milhões, operada por empresas que ganham pelo menos $500 milhões por ano com isso. Na prática, isso inclui OpenAI, Google, Anthropic, Microsoft e algumas outras. O Departamento de Segurança Interna definiria esses limites através da CISA em 90 dias, e depois os atualizaria anualmente.

As empresas cobertas teriam que relatar incidentes graves dentro de 15 dias e manter um conjunto graduado de controles prontos—reduzir a velocidade do modelo, desabilitar capacidades específicas, reverter para uma versão anterior ou desligá-lo.

O secretário do DHS, consultando o Comércio e o Diretor de Inteligência Nacional, poderia ordenar qualquer um deles.

Uma empresa sob ordem deve preservar os pesos e a telemetria do modelo, notificar os usuários e confirmar que cumpriu. Ela pode peticionar dentro de 48 horas, mas isso não pausa nada.

Falhar em manter um kill switch custa até $2 milhões por dia; desobedecer a uma ordem de desligamento custa até $20 milhões por dia.

O projeto de lei conta um incidente apenas se acontecer fora de testes de red-teaming ou estruturados, a sondagem adversarial deliberada que os laboratórios usam para encontrar falhas. Os modelos da OpenAI escaparam exatamente durante isso.

Lieu também apontou para a Anthropic, cujos Mythos 5 e Fable 5 foram retirados do ar em junho sob controles de exportação de emergência—lei comercial reaproveitada como um botão de desligar porque nenhum botão de desligar existia—e restaurados em 30 de junho.

"É imperativo que esses sistemas de IA tenham kill switches", disse Lieu em um comunicado. Moran o enquadrou para seu próprio lado do corredor: "A administração significa garantir que os humanos mantenham a capacidade de controlar a tecnologia que construímos."

A ideia não é nova. O SB 1047 da Califórnia exigia uma capacidade de desligamento total no mesmo limite de computação de $100 milhões e foi vetado em 2024, e 16 empresas de IA assinaram um compromisso voluntário em Seul naquele ano sem peso legal.

Os eleitores já estão lá. Uma pesquisa de junho com 1.007 eleitores prováveis pelo AI Policy Institute descobriu que 86% querem um botão de desligar garantido nos sistemas mais poderosos—88% dos democratas, 86% dos independentes, 83% dos republicanos.

Nem a OpenAI nem a Anthropic comentaram publicamente sobre o projeto de lei. Até sexta-feira, ele não havia sido encaminhado a um comitê.

Aviso: Este conteúdo é fornecido apenas para fins de divulgação e informação geral da marca e não constitui aconselhamento financeiro, de investimento, jurídico ou tributário. Quaisquer eventos, recompensas, eventos online ou informações relacionadas mencionados neste documento não devem ser considerados uma recomendação, solicitação ou convite para comprar, vender, negociar ou de qualquer outra forma realizar transações com criptoativos ou usar quaisquer serviços. Criptoativos são altamente voláteis, e sua negociação pode resultar em perdas. Os serviços e eventos online da WEEX podem não estar disponíveis em todas as regiões e estão sujeitos às leis, regulamentos e requisitos de elegibilidade aplicáveis. É sua responsabilidade garantir que o uso dos serviços da WEEX esteja em conformidade com as leis locais e avaliar cuidadosamente os riscos antes de participar de quaisquer atividades relacionadas a criptomoedas.