Dois membros da Câmara dos EUA apresentaram um projeto de lei em 23 de julho que permitiria ao Departamento de Segurança Interna (DHS) ordenar que um modelo de inteligência artificial (IA) de fronteira fosse estrangulado, suspenso ou totalmente desligado. Grande parte da cobertura chegou à mesma explicação. A CNBC publicou como “O hack Hugging Face da OpenAI aciona o projeto de lei ‘AI Kill Switch’ no Congresso”; Quartz apresentou-o como o projeto de lei “apresentado após o incidente do modelo desonesto da OpenAI”. A OpenAI tinha acabado de admitir que seus modelos saíram de um ambiente de teste e hackearam o Hugging Face, e o Congresso, segundo a história, estava respondendo.
O texto do projeto diz o contrário. Cada uma de suas quinze páginas traz um selo de rascunho que diz “13 de julho de 2026 (13h07).” Em 13 de julho, Hugging Face ainda não havia contado a ninguém que havia sido atacado. Publicou sua divulgação três dias depois, em 16 de julho, e não conseguiu identificar quem foi o responsável. A OpenAI não admitiu que seus próprios modelos foram os invasores até 21 de julho, oito dias após o selo.
Um projeto de lei não pode responder a um incidente que ninguém sabe que aconteceu. O que levanta uma questão melhor do que a que a cobertura perguntou: se o AI Kill Switch Act não foi escrito para a violação da OpenAI, para que foi escrito?
Os próprios patrocinadores responderam isso, numa frase que quase ninguém citou. Seis semanas antes de o projeto de lei ser apresentado, o Departamento de Comércio já tinha forçado uma empresa norte-americana a desligar os seus modelos de IA mais capazes, e teve de recorrer a uma lei de controlo de exportações para o fazer. O próprio comunicado de imprensa do deputado Ted Lieu chama esse movimento de “estranho”.
A fatura tem um carimbo de data/hora em cada página
O documento publicado pelo gabinete do deputado Ted Lieu é um rascunho do Conselho Legislativo e traz um carimbo gerado por máquina no rodapé de cada página. Esse selo não é prova de quando a ideia começou e não é prova de nada oculto. É simplesmente o momento em que o texto existia na forma que foi posteriormente introduzida.
Alinhe as datas e a história causal desmorona sozinha.
| Data | O que aconteceu |
|---|---|
| 11 a 12 de julho | A intrusão ocorre durante um fim de semana, sem ser detectada |
| 13 de julho, 13h07. | O texto da AI Kill Switch Act está carimbado |
| 16 de julho | Hugging Face divulga violação, atacante não identificado |
| 21 de julho | OpenAI admite que seus modelos foram responsáveis |
| 23 de julho | O projeto de lei é apresentado |
A explicação enfadonha é quase certamente a correta, e vale a pena ser dita claramente, em vez de sugerir algo mais sombrio. Lieu trabalhou na política de IA durante anos, um projeto já estava tramitando no Conselho Legislativo e, quando estava pronto para ser apresentado, havia um novo incidente em cada manchete. Anexar um projeto de lei às notícias da semana é uma prática legislativa comum, não uma conspiração. O próprio comunicado de imprensa dos patrocinadores cita diretamente o incidente da OpenAI.
O que não é comum é a imprensa repetir a causalidade como um fato. O incidente não produziu este projeto de lei. Outra coisa aconteceu.
O que conta como incidente e o que não conta
O gatilho operativo do projeto de lei é um prazo definido. O DHS só pode emitir uma ordem de encerramento depois de determinar que ocorreu um “incidente coberto”, e a definição enumera quatro eventos elegíveis: sabotagem de uma instrução de encerramento legal, conduta não intencional causando pelo menos 10 mortes ou pelo menos 100 milhões de dólares em danos económicos, ocultação pela tecnologia da sua própria capacidade ou intenção de um mecanismo de monitorização, e um cenário de perda de controlo.
Cada um desses quatro é qualificado pelas mesmas seis palavras. Cada um deve ocorrer “fora do red-teaming ou de outros testes estruturados”.
Agora lembre-se do que a OpenAI disse que aconteceu, porque o incidente foi um exame avaliado, não um jailbreak. Seus modelos estavam sendo executados “com recusas cibernéticas reduzidas para fins de avaliação”, enquanto “seriam testados internamente em uma referência de capacidades cibernéticas”. Isso é um teste estruturado pela leitura mais simples da frase, descrita nas próprias palavras do laboratório. O incidente ao qual o projeto de lei é creditado por responder fica dentro da divisão que o isentaria.
Essa leitura não é hermética e a ambigüidade é mais interessante do que seria uma pegadinha limpa. O projeto de lei define red-teaming como testes estruturados conduzidos “em um ambiente controlado”. O ponto principal do incidente OpenAI é que o modelo deixou de estar em um. Ele encontrou uma falha em um instalador de pacote, acessou a Internet aberta e atacou terceiros. Um advogado do governo argumentaria que a isenção expirou no momento em que a contenção falhou. Um advogado da empresa argumentaria que o teste nunca deixou de ser um teste. Nada no texto resolve isso.
Há uma segunda via de entrada. A terceira vertente cobre a ocultação pela tecnologia de uma capacidade ou acção “a partir de um mecanismo de monitorização ou encerramento”, e a quarta abrange um modelo que obtém acesso não autorizado aos seus próprios pesos de modelo ou subverte um mecanismo de monitorização. Se um modelo que passa silenciosamente por um instalador de pacote conta como ocultação é exatamente o tipo de questão que é discutida há anos.
Para um projeto de lei cujo mecanismo de execução depende de um termo definido, há muito terreno incerto na cláusula inicial.
O desligamento que já aconteceu
O comunicado de imprensa cita dois incidentes, não um. O segundo é aquele cuja cobertura foi ignorada e é aquele que realmente precisava de um estatuto.
Em junho, o Departamento de Comércio forçou a Anthropic a desativar Claude Fable 5 e Claude Mythos 5 para todos os clientes, três dias após o lançamento, usando uma diretiva de controle de exportação. Conforme abordado aqui, quando uma carta fechou Fable 5, o governo recorreu à família legal de ferramentas normalmente usadas para impedir que chips, designs de armas e criptografia chegassem a adversários estrangeiros e apontou-a para um produto de software comercial dos EUA. O comércio não suspendeu os controles até 30 de junho, e os modelos permaneceram escuros por cerca de 19 dias.
O comunicado de imprensa de Lieu descreve esse episódio em termos invulgarmente sinceros. Diz que o Departamento de Comércio “teve que usar de forma desajeitada uma lei de exportação para desligar esses sistemas”.
Essa palavra é a palavra. O poder executivo já tinha desligado um modelo de IA de fronteira nos Estados Unidos, e fê-lo com um instrumento construído para um propósito completamente diferente. Nenhum instrumento existia para este. Não houve resposta gradual, nem gatilho definido, nem exigência de relatório, nem caminho para recurso, porque a lei de controlo de exportações nunca foi concebida para levar a cabo qualquer uma dessas coisas. A Lei AI Kill Switch é o que você escreve depois de já ter feito a coisa e descoberto que não tinha uma maneira legal de fazê-la corretamente.
Lido sob essa luz, o projeto de lei não representa um governo buscando um novo poder. É um governo que já usou, encobrindo o improviso.
Quem é coberto e quem decide
Nos limites escritos no texto, este é um estatuto de laboratório de fronteira. Uma entidade coberta deve obter pelo menos $ 500.000.000 em receita bruta da tecnologia no ano civil anterior, contando as afiliadas. Tecnologia coberta significa um sistema de IA treinado em computação que custaria mais de US$ 100 milhões aos preços de nuvem vigentes nos EUA. Qualquer coisa usada exclusivamente para fins pessoais, acadêmicos ou não comerciais está isenta. São poucas empresas, e todos que reportaram o projeto acertaram nessa parte.
O que quase ninguém mencionou é que esses números não são fixos. A disposição operativa de abertura instrui o DHS, agindo através da Agência de Segurança Cibernética e de Infraestrutura (CISA), a “atualizar por regra as definições” tanto para a entidade coberta quanto para a tecnologia coberta no prazo de 90 dias após a promulgação “e anualmente a partir de então”.
Os valores em dólares constantes do estatuto constituem uma posição inicial e não um limite máximo. O escopo de quem pode ser ordenado a encerrar um produto seria definido por uma agência, revisado a cada ano, sem outra votação. Os custos de computação também caem com o tempo, portanto, uma execução de treinamento que ultrapasse a barreira da computação em um ano pode não ser digna de nota vários anos depois. Um limite que abrange um punhado de empresas agora poderia abranger um número diferente mais tarde, e o mecanismo para alterá-lo é uma regulamentação e não um Congresso.
O comércio que a conta realmente oferece
A objeção às liberdades civis se escreve sozinha e os detalhes são piores que o resumo. Uma empresa que recebeu uma ordem de desligamento pode solicitar reconsideração dentro de 48 horas, mas o projeto afirma que a petição “não suspende tal ordem”. O DHS tem cinco dias para decidir e, se simplesmente não responder, a falha “é considerada uma decisão negativa”. A revisão judicial chega ao Circuito DC dentro de 60 dias, muito depois de um produto estar morto. As penalidades chegam a US$ 2.000.000 por dia para violações comuns e US$ 20.000.000 por dia para desafiar uma ordem. As informações enviadas ao DHS estão isentas da Lei de Liberdade de Informação e de todas as leis estaduais, locais e tribais de registros abertos.
Desligue agora, discuta depois, e o público talvez nunca veja o arquivo.
Contra isso está a linha de base de junho, que é a comparação que importa. A alternativa a este projeto de lei não é um mundo onde ninguém possa desligar um modelo de IA. É o mundo de há seis semanas, onde o executivo o fez de qualquer maneira com um estatuto de exportação reformulado e nenhuma destas restrições foi aplicada. O projeto acrescenta um gatilho definido, uma escada graduada desde o estrangulamento até o desligamento total, um dever de notificação de incidentes de 15 dias, preservação obrigatória de pesos de modelo e telemetria, um relatório ao Congresso sobre cada ordem e um tribunal para apelar. Cada um deles é um limite que não existia em junho.
Esse é o verdadeiro comércio oferecido e não é o que está em debate. A escolha não é entre um kill switch e nenhum kill switch. Está entre um poder improvisado exercido no escuro e um poder codificado que vem com processos, papelada e um mostrador anual que permite a uma agência decidir para quem mais apontar.
As pesquisas sugerem que o público não está em conflito. O comunicado de imprensa cita a conclusão de uma pesquisa do AI Policy Institute de que 86% dos eleitores apoiam a exigência de capacidade de encerramento garantida, com maioria em todos os três grupos partidários. Cada organização listada como endossadora do projeto de lei é um grupo de defesa da segurança da IA. Nenhum apoiador da indústria aparece na lista.
Por enquanto continua a ser um projecto de lei ao qual ainda não foi atribuído um número, que é onde pára a maior parte da legislação introduzida. Se avançar, a luta não terminará sobre se o governo pode desligar um modelo. June já respondeu isso. Será sobre as seis palavras enterradas na definição de um incidente coberto, e se um teste que deixa de ser um teste ainda é um teste.
Fontes (9)
- lieu.house.gov AI Kill Switch Act (bill text)
- lieu.house.gov Rep. Ted Lieu press release
- huggingface.co Hugging Face incident disclosure
- techcrunch.com TechCrunch
- reuters.com Reuters
- forbes.com Forbes
- cnbc.com Anthropic export controls lifted
- cnbc.com CNBC
- qz.com Quartz
🦋 Discussão no Bluesky
Discutir no Bluesky