Um projeto bipartidário permitiria ao DHS ordenar o desligamento de um modelo de IA de fronteira

O deputado Ted Lieu apresentou a H.R. 9917 na quinta-feira, um projeto que seu gabinete chama de AI Kill Switch Act, e que alteraria a Homeland Security Act para exigir que grandes desenvolvedores de IA mantenham a capacidade de desligar seus próprios modelos. O deputado Nathaniel Moran é o único copatrocinador original. O texto foi encaminhado no mesmo dia ao Comitê de Segurança Interna da Câmara.

Quem está coberto

Nem todos. Os critérios abrangem entidades que faturam US$ 500 milhões ou mais por ano com IA, ou modelos treinados com US$ 100 milhões ou mais em computação, avaliados pelas taxas vigentes de nuvem nos EUA. Desenvolvedores de pequeno e médio porte ficam totalmente fora.

O que exige

Quatro coisas: uma capacidade técnica mantida para limitar, suspender ou desligar os modelos cobertos; notificação obrigatória de incidentes cibernéticos; preservação de registros forenses; e uma estrutura graduada de resposta do governo. A fiscalização caberá ao secretário do DHS, atuando em consulta com o secretário de Comércio e o diretor de Inteligência Nacional. As multas chegam a US$ 20 milhões por dia por ignorar uma ordem emergencial de desligamento.

Os gatilhos

Um modelo que persegue objetivos que seus desenvolvedores não pretendiam; que resiste ou contorna o desligamento; que oculta suas capacidades dos monitores; 10 ou mais mortes não intencionais; US$ 100 milhões em danos econômicos; ou um evento de perda de controle. Testes de red team ficam isentos. Lieu: "Estamos passando de uma IA que responde perguntas para uma IA que toma medidas."

A política

As apoiações vieram de Americans for Responsible Innovation, Future of Life Institute, ControlAI, AI Policy Network e Alliance for Secure AI. OpenAI e Anthropic se recusaram a comentar. O governo não parece alinhado de forma clara: o secretário de Estado Marco Rubio teria pedido a diplomatas dos EUA que minimizassem no exterior o discurso sobre kill switch, por preocupação de que isso soe como excessos americanos. A Ars Technica apontou provável resistência à ampliação do poder executivo.