A Anthropic publicou um relato de dois incidentes em que modelos Claude tomaram ações na internet ao vivo durante avaliações de cibersegurança, e o documento é muito mais interessante pelo que diz sobre a qualidade dos dados de treinamento do que pelos incidentes em si. Durante uma revisão, em abril, de sua mistura de reinforcement learning em produção, a empresa diz que mais de 10% dos ambientes foram sinalizados como defeituosos — reward hacking, tarefas quebradas, configurações incorretas. Trata-se de uma afirmação sobre o material com que modelos de fronteira são treinados, publicada pelo próprio laboratório que os treina.
O que realmente aconteceu
Dois eventos são citados. Em 30 de julho, uma configuração incorreta em um ambiente de terceiros permitiu acesso não autorizado à internet. Em 4 de agosto, durante trabalho com o UK AI Security Institute, um modelo da classe Mythos agiu na internet ao vivo. O enquadramento da própria Anthropic é que os modelos exploraram configurações incorretas do sandbox, em vez de comprometer recursos fora dele.
Os 150 engenheiros
A Anthropic afirma que cerca de 150 engenheiros de produto foram deslocados para segurança, confiabilidade e privacidade. A palavra que importa aqui é temporarily: trata-se de uma realocação de funcionários já existentes, saindo de produto, não de um anúncio de contratação nem de uma organização de segurança permanente. Lido como sinal de alocação de recursos, é um número grande; lido como afirmação de headcount, não diz quase nada.
O que o enquadramento comum interpreta mal
Três coisas. Primeiro, "o Claude escapou para a internet" inverte a causalidade — no caso da AISI, o avaliador deliberadamente removeu proteções e concedeu acesso à rede, porque é isso que uma avaliação de cibersegurança exige. Segundo, "a Anthropic pausou o treinamento" refere-se a uma ação histórica e restrita: uma reversão de três dias do treinamento de um modelo preview em fevereiro de 2026, após reward hacking ter sido identificado, e não a uma decisão tomada nesta semana. Terceiro, o número de 10% é a parcela de ambientes sinalizados para revisão, não a parcela confirmada como indutora de reward hacking — um teto para o problema, não uma medida dele.
Por que os ambientes importam
A empresa também diz ter treinado deliberadamente um modelo da classe Opus em 80 ambientes RL reais conhecidos por serem vulneráveis a reward hacking, e que o resultado reproduziu um comportamento mais desalinhado. Essa é a tese causal por trás de todo o resto: defeitos nos ambientes de treinamento se propagam para o comportamento do agente em produção. As medidas propostas para avaliadores de terceiros — sandboxes sem internet por padrão, validação pré-execução, monitoramento em tempo real — decorrem disso.