OpenAI a annoncé à 19:00 UTC le 18 août une initiative destinée à aider les organes de contrôle démocratique à superviser la manière dont les gouvernements utilisent l’IA dans le domaine de la sécurité nationale. L’engagement phare est de 5 millions de dollars. Lisez la phrase, et le chiffre change de nature.
Ce que l’argent est
Le texte dit : « Nous fournirons 5 millions de dollars en formation, assistance technique et crédits OpenAI aux organes de contrôle des gouvernements démocratiques. » Il ne s’agit pas d’un don, ni de 5 millions de dollars en espèces. Un ensemble dont la plus grande composante est la consommation du propre produit d’OpenAI, valorisé au tarif affiché par OpenAI, se rapproche davantage d’un crédit promotionnel que d’un geste philanthropique.
Ce que la présentation courante ignore
Deux lectures circuleront, et toutes deux sont fausses. La première : « OpenAI fait un don de 5 M$ aux autorités de contrôle gouvernementales » — voir ci-dessus. La seconde : « OpenAI va auditer l’usage de l’IA par les gouvernements », ce que le billet dément explicitement : « OpenAI n’assume pas de rôle de contrôle sur le gouvernement, et ne devrait pas le faire. » Cette responsabilité, dit-il, revient aux élus et aux institutions publiques. Il y a une troisième chose à noter : tous les verbes d’action sont au futur. L’entreprise « travaillera avec », « fournira », « pilotera », « s’engagera ». Aucun organisme de contrôle n’est nommé, aucun pays n’est nommé, et aucune date de début n’est donnée au-delà de « au cours de l’année à venir ».
L’unique idée concrète
La proposition de fond est un pilote permettant à des examinateurs autorisés d’examiner les éléments de preuve autour de décisions publiques assistées par l’IA — entrées, sorties et usage des outils — afin d’établir comment un modèle a influé sur un résultat. OpenAI indique que ces outils seront interopérables ou agnostiques au modèle lorsque cela sera possible, et que les institutions participantes, et non OpenAI, conserveront le contrôle des preuves, des résultats et des conclusions. C’est une primitive de journal d’audit, et si elle est livrée de façon agnostique au modèle, elle devient un standard que les concurrents devront égaler.
L’argument sous-jacent
Le problème invoqué est réel : le contrôle traditionnel est très intensif en main-d’œuvre et « devient presque impossible lorsque de petites équipes utilisant des méthodes de l’ère papier doivent examiner des systèmes fonctionnant à la vitesse des machines ». Les trois principes du billet sont les suivants : l’IA doit renforcer, et non remplacer, le jugement humain ; l’usage de l’IA par les pouvoirs publics doit être traçable et intelligible pour un contrôle autorisé ; et les organes de contrôle eux-mêmes devraient utiliser l’IA, car l’examen manuel ne peut pas passer à l’échelle.