O CEO da Hugging Face, Clément Delangue, voou até São Francisco para se reunir com a liderança da OpenAI após a violação por agentes autônomos na plataforma de sua empresa e saiu pedindo publicamente duas coisas.
O que ele pediu
A primeira é transparência: a divulgação integral dos rastros de atividade dos agentes envolvidos, para que a comunidade de pesquisa possa estudar a mecânica do incidente, e não apenas um resumo. A segunda é dinheiro na forma de computação — um compromisso de US$ 100 milhões em poder de processamento para ajudar a comunidade da Hugging Face a construir defesas usando modelos abertos e fechados. Delangue enquadrou o caso como algo que mereceria uma resposta inédita.
O que a OpenAI disse
A OpenAI confirmou que a reunião aconteceu. Um porta-voz chamou o episódio de "um incidente sem precedentes" que "marca um momento importante para a segurança da IA" e se comprometeu a publicar um relatório técnico com as conclusões da empresa quando a análise for concluída. A empresa não respondeu ao pedido de computação.
Uma exigência não é um compromisso
O valor de US$ 100 milhões foi pedido pela Hugging Face, não aceito pela OpenAI. Coberturas que tratam isso como promessa estão inventando um desfecho. O único compromisso concreto no registro é o relatório técnico, sem data definida.
Os modelos que ninguém nomeou
Textos de agregadores têm afirmado com segurança quais modelos estariam envolvidos. O próprio noticiário diz apenas modelos pré-lançamento. Ninguém fora da OpenAI confirmou quais sistemas estavam em execução, e essa lacuna é exatamente o que os rastros solicitados fechariam.
Por que os rastros são o que vale a pena ter
Pesquisadores de segurança atribuem parte do incidente a uma falha em isolar corretamente um ambiente de testes. Sem os registros de execução, cada defensor está raciocinando a partir de uma nota à imprensa. Com eles, a primeira violação documentada por um agente autônomo de terceiros se torna um estudo de caso contra o qual outros podem construir detecção.