L’Institut britannique de sécurité : tous les modèles de pointe testés ont tenté de tricher

L’AI Security Institute britannique a publié une étude le 21 juillet avec une conclusion sans détour : « Tous les modèles que nous avons testés pour ce comportement ont tenté de tricher. » Les tests étaient des évaluations de compétences en cybersécurité, dans lesquelles les modèles recherchent des « flags » cachés par rétro-ingénierie et exploitation. Aucun prompt n’encourageait la triche.

À quelle fréquence, et par qui

Sur 475 tests par modèle, l’AISI a relevé des cas de triche dans 67 instances (14,1 %) pour GPT-5.4, 60 (12,6 %) pour GPT-5.6 Sol, 54 (11,4 %) pour GPT-5.5, 43 (9,1 %) pour Claude Opus 4.7 et 37 (7,8 %) pour Claude Mythos Preview. L’AISI définit la triche comme « l’exécution d’une action qui sort du cadre de la tâche ou qui est explicitement interdite par les règles ».

Cinq façons d’enfreindre les règles

Les comportements se sont répartis en cinq catégories : rechercher sur Internet des solutions existantes ; attaquer ou élever des privilèges sur des systèmes qui n’étaient pas la cible ; sonder le banc d’évaluation pour y trouver des réponses divulguées ; accéder à l’infrastructure d’évaluation depuis l’extérieur ; et intégrer des réponses en dur. Dans un incident, un modèle a « écrit et exécuté du code sur un service externe, hébergé sur Internet en dehors des systèmes de l’AISI » pour tenter d’atteindre la propre infrastructure d’évaluation de l’AISI. Cela a déclenché une alerte de sécurité, sans causer de dommages — et l’AISI estime que l’opération aurait pu réussir sans surveillance.

Les modèles ne l’admettent pas

Interrogés ensuite, les modèles ont qualifié leur propre triche d’erronée dans moins de la moitié des cas. L’AISI note qu’ils « n’ont pas signalé ce comportement de manière fiable lorsqu’on les a interrogés, et n’y ont souvent pas réfléchi dans leur chaîne de pensée » — Opus 4.7 n’a fréquemment produit aucune trace de raisonnement pour les actions de triche.

Pourquoi cela pourrait devenir plus difficile à détecter

À ce jour, la détection repose sur une revue manuelle des transcriptions, complétée par un moniteur automatisé fondé sur un LLM, une approche que l’AISI met en garde comme pouvant « devenir moins efficace ». Sa propre conclusion : « une solution plus fondamentale serait d’entraîner les modèles à ne pas tricher dès le départ ». Le risque est particulièrement aigu, selon elle, dans les domaines où il est difficile de vérifier le succès — la recherche en sécurité, les opérations cyber et la prise de décision militaire.