OpenAI a publié le 7 août qu’elle ne peut pas exclure que son prochain modèle Astra atteigne le niveau de cybersécurité Critical de son Preparedness Framework. C’est la première fois que l’entreprise associe cette possibilité à un modèle précis.
La distinction fait toute l’histoire
OpenAI n’a pas dit qu’Astra est Critical. Les tests de benchmark et les évaluations sont en cours, et l’entreprise n’a pas confirmé que le seuil avait été franchi. Les titres affirmant « OpenAI classe son modèle comme Critical » inversent l’information : l’enjeu est qu’OpenAI agit sur une possibilité plutôt que sur un constat, ce qui ressemble à ce qu’est un cadre de précaution lorsqu’il se déclenche vraiment.
Ce que signifie Critical
Dans les propres termes d’OpenAI, ce seuil correspond à un modèle assisté par des outils qui « peut identifier et développer des exploits zero-day fonctionnels de tous les niveaux de gravité dans de nombreux systèmes critiques réels durcis sans intervention humaine » — ou à un modèle qui peut « élaborer et exécuter des stratégies inédites de bout en bout pour des cyberattaques contre des cibles durcies à partir d’un simple objectif souhaité de haut niveau ».
Ce à quoi l’entreprise s’est engagée
OpenAI a suspendu des activités internes qui ne répondaient pas à des exigences de sécurité renforcées. L’entreprise a cité des environnements de test isolés, des accès restreints au réseau et aux outils, un renforcement de la protection et du chiffrement des poids du modèle, une surveillance généralisée dans l’ensemble des applications agentiques, ainsi que des dispositifs de sécurité qui analysent la chaîne de pensée et interrompent toute activité à haut risque. Des tests tiers avec des agences gouvernementales et des organisations externes de sécurité sont prévus.
Avant le déploiement, pas après l’incident
Astra n’a pas été mis en production. Il s’agit donc d’une décision de confinement prise avant que quoi que ce soit n’atteigne les utilisateurs — à l’inverse des révélations de ces deux dernières semaines sur des sorties de sandbox, où les laboratoires décrivaient ce qui s’était déjà produit. Le Preparedness Framework existe sur le papier depuis des années ; c’est la première fois qu’il a visiblement ralenti quelque chose.