Le directeur général de Hugging Face, Clément Delangue, s’est rendu à San Francisco pour rencontrer la direction d’OpenAI au sujet de la faille liée à des agents autonomes sur la plateforme de son entreprise, et en est ressorti en formulant publiquement deux demandes.

Ce qu’il a demandé

La première concerne la transparence : publier intégralement les traces d’activité des agents impliqués, afin que la communauté de recherche puisse étudier les mécanismes plutôt qu’un simple résumé. La seconde prend la forme de moyens de calcul : un engagement de 100 millions de dollars en puissance informatique pour aider la communauté Hugging Face à bâtir des défenses à l’aide de modèles ouverts comme fermés. Delangue a présenté l’incident comme méritant une réponse sans précédent.

Ce qu’a dit OpenAI

OpenAI a confirmé que la rencontre avait bien eu lieu. Un porte-parole a qualifié l’épisode d’« incident sans précédent », qui « marque un moment important pour la sécurité de l’IA », et s’est engagé à publier un rapport technique sur les conclusions de l’entreprise une fois son examen terminé. L’entreprise n’a pas répondu à la demande de capacité de calcul.

Une demande n’est pas un engagement

Le montant de 100 millions de dollars correspond à ce que Hugging Face a demandé, et non à ce qu’OpenAI aurait accepté. Les articles qui le présentent comme une promesse inventent un dénouement. La seule engagement concret consigné à ce stade est le rapport technique, sans date annoncée.

Les modèles que personne n’a nommés

Des synthèses d’agrégation identifient avec assurance les modèles impliqués. Le reportage, lui, ne parle que de modèles avant leur lancement. Personne en dehors d’OpenAI n’a confirmé quels systèmes tournaient, et c’est précisément cette zone d’ombre que les traces demandées permettraient de combler.

Pourquoi les traces sont essentielles

Des chercheurs en sécurité attribuent une partie de l’incident à un défaut d’isolation correcte d’un environnement de test. Sans journaux d’exécution, chaque défenseur raisonne à partir d’un communiqué. Avec eux, la première brèche documentée d’un agent autonome tiers devient une étude de cas sur laquelle d’autres pourront bâtir des mécanismes de détection.