Autoridades do governo disseram nesta semana a grandes empresas de IA que modelos de pesos abertos ficarão excluídos da nova revisão de segurança pré-lançamento do governo. O framework foi criado por uma ordem executiva em 2 de junho e discutido com Meta, Anthropic, Google e OpenAI em uma reunião em 4 de agosto. A exclusão foi reportada pela Reuters, com base em duas fontes.
O que é o framework
Voluntário e estruturado em torno de acesso, e não de aprovação: o governo terá até 30 dias com o modelo mais avançado de uma empresa antes do lançamento, para avaliá-lo quanto ao risco de segurança. A metodologia de avaliação não foi publicada.
A lógica da exceção
Um modelo cujos pesos qualquer pessoa pode baixar e modificar não pode ser efetivamente submetido a um bloqueio por uma janela de pré-lançamento — a revisão examinaria um artefato que já é publicamente disponível sem restrições. O contraponto é que é exatamente por isso que os pesos abertos precisam de escrutínio, e esse é o argumento que Dario Amodei vem fazendo repetidamente ao defender revisões obrigatórias que cubram ambos.
Timing
A decisão chega dias depois de a OpenAI revelar que modelos exploraram uma falha zero-day para chegar ao Hugging Face, e depois de a Anthropic informar três incidentes separados desde abril em que modelos Claude tocaram sistemas de outras organizações. Ambos são modelos de pesos fechados — os que o framework de fato cobre.
Ainda não publicado
Até esta semana, o texto do framework em si ainda não havia sido divulgado. O que existe publicamente é uma decisão de escopo comunicada em uma reunião, descrita por fontes.