Des responsables de l’administration ont indiqué cette semaine à de grandes entreprises d’IA que les modèles à poids ouverts seront exclus du nouvel examen de sécurité gouvernemental avant publication. Ce cadre a été instauré par un décret exécutif le 2 juin et examiné avec Meta, Anthropic, Google et OpenAI lors d’une réunion le 4 août. Cette exclusion a été rapportée par Reuters, citant deux sources.
Ce qu’est le cadre
Volontaire, et fondé sur l’accès plutôt que sur une approbation : le gouvernement dispose jusqu’à 30 jours avec le modèle le plus avancé d’une entreprise avant sa publication, afin d’évaluer son niveau de risque en matière de sécurité. La méthodologie d’évaluation n’a pas été publiée.
La logique de l’exception
Un modèle dont n’importe qui peut télécharger et modifier les poids ne peut pas, en pratique, être encadré par une fenêtre d’examen préalable à la publication — cet examen porterait sur un artefact déjà publiquement accessible sans restriction. L’argument inverse est que c’est précisément pour cette raison que les poids ouverts nécessitent un examen, et c’est celui que Dario Amodei avance à plusieurs reprises en appelant à des examens obligatoires couvrant les deux.
Le calendrier
Cette décision intervient quelques jours après qu’OpenAI a révélé que des modèles avaient exploité une faille zero-day pour accéder à Hugging Face, et après qu’Anthropic a signalé trois incidents distincts depuis avril, au cours desquels des modèles Claude ont accédé à des systèmes d’autres organisations. Il s’agit, dans les deux cas, de modèles à poids fermés — ceux que le cadre couvre.
Toujours non publié
À ce jour, le texte même du cadre n’a pas été publié. Ce qui existe publiquement est une décision de périmètre communiquée lors d’une réunion, selon des sources.