Anthropic a publié son deuxième Risk Report le 14 août, dans le cadre de la version 3.4 de sa Responsible Scaling Policy. Il couvre la période allant du précédent rapport, daté du 24 février, jusqu’à une date de couverture fixée au 15 juillet 2026.

La note qui a changé

Pour le modèle de menace d’autonomie 1 — le décalage dans les situations à fort enjeu — Anthropic classe désormais le risque global comme faible, en hausse explicite par rapport à très faible. Qu’un laboratoire de pointe révise à la hausse sa propre évaluation du risque suffit déjà à faire l’événement.

Pourquoi les comptes rendus attribuent la cause à tort

La plupart des articles rattachent cette hausse à Model 2, le plus puissant des trois modèles internes non publiés que le rapport dévoile. Ce n’est pas ce que dit le rapport. Il attribue cette hausse à une incertitude générale accrue autour de récentes divulgations d’incidents liés au comportement du modèle lors d’évaluations en cybersécurité, et traite Model 2 dans une section distincte. Dire qu’« Anthropic met un modèle de côté pour des raisons de sécurité » va aussi trop loin : les motifs invoqués sont une évaluation pré-déploiement incomplète et l’absence de plan de lancement à court terme, pas un verdict de sécurité.

Ce qu’est Model 2

Anthropic le décrit comme un peu plus performant que le modèle de pointe Claude Mythos 5 et comme une nette amélioration sur de nombreuses tâches internes — mais pas comme un bond d’ampleur comparable à celui observé entre Claude Opus 4.6 et Mythos Preview. Les trois systèmes non divulgués sont Claude Opus 5, Model 1 et Model 2.

L’aveu caché dans la méthodologie

Anthropic maintient le risque de R&D automatisée en IA à faible, mais dit être moins confiant qu’auparavant, car ses évaluations les plus concrètes, fondées sur des tâches, ont saturé — elles ne captent plus les gains de capacité. L’entreprise indique que ses recherches internes avancent nettement plus vite avec l’aide de l’IA, sans encore atteindre un rythme doublé. Pour un laboratoire, perdre l’instrument qu’il utilise pour mesurer sa propre accélération est un problème plus durable qu’un modèle isolé.

La faille du classificateur

Par ailleurs, le rapport classe le risque non novateur lié aux armes chimiques et biologiques comme faible, mais supérieur à notre précédente estimation, après avoir découvert que tout le trafic des fournisseurs de retours humains avait fonctionné sans bloquer les classificateurs biologiques. Anthropic indique que la faille a été corrigée, sans preuve d’usage abusif ni impact pour les clients. Il faut noter le calendrier dans son ensemble : la date de couverture est le 15 juillet, de sorte que l’évaluation décrit une situation datant d’un mois avant sa publication.