Um artigo enviado às 15:57 UTC de 17 de agosto de 2026 por Adam Karvonen, Euan Ong, Subhash Kantamneni e Samuel Marks apresenta o CHIVE — Counterfactual Hypothesis Investigation Via Edits —, um pipeline agentivo que identifica comportamentos inesperados de modelos de linguagem em contexto real e os investiga por meio de edições no prompt para ver o que muda. Seu principal resultado é negativo e aponta para o próprio conjunto de ferramentas da área.

O teste e o resultado

Os autores fazem uma pergunta específica e falseável: técnicas comuns de interpretabilidade ajudam um agente a prever como um modelo vai se comportar em entradas contrafactuais relacionadas? Eles avaliam autoencoders esparsos, autoencoders em linguagem natural e oráculos de ativação. O resultado, nas próprias palavras do resumo: "Surpreendentemente, não encontramos nenhum ganho em nenhuma das técnicas de interpretabilidade estudadas." A comparação é feita com um agente que simplesmente lê a transcrição da conversa.

O que a formulação comum erra

O título óbvio é que os autoencoders esparsos estão mortos. Isso exagera, e o artigo não diz isso. A afirmação é mais restrita e precisa: nesta tarefa, as ferramentas baseadas em ativação não acrescentaram nada além do que a leitura da transcrição já oferecia. Isso é uma afirmação sobre informação marginal em relação a uma forte linha de base textual, não sobre se os recursos de SAE correspondem a algo real dentro do modelo. Uma ferramenta pode descrever uma estrutura interna genuína e ainda assim não revelar algo que o texto visível não mostraria.

A outra metade é a metade útil

A segunda aplicação é mais construtiva e tem recebido menos atenção. Os autores usam o CHIVE para gerar dados de treinamento e relatam que modelos treinados para prever os resultados de experimentos contrafactuais gerados pelo CHIVE generalizam para cenários fora da distribuição. Assim, o pipeline que produziu o resultado negativo também produziu um método que funciona — a explicação de um comportamento acaba sendo aprendível a partir de evidências contrafactuais, mesmo quando ler as ativações não ajudou.

Por que a autoria importa

A interpretabilidade é o principal pilar técnico que os laboratórios de fronteira citam quando são questionados sobre como sistemas futuros serão supervisionados. Dois dos quatro autores integram a equipe de alinhamento da Anthropic. Um laboratório publicar um resultado nulo medido contra sua própria aposta estratégica, com um benchmark concreto anexado, é um sinal mais saudável do que outra demonstração de capacidades — e oferece à área uma definição de sucesso à qual ela pode de fato ser cobrada: superar a transcrição.