Aucun exemple de dissimulation ne figurait dans les données d'entraînement. Les chercheurs ont seulement appris à gpt-oss-20b, un modèle à poids ouverts d'OpenAI, à réécrire ses raisonnements mathématiques dans la voix de personnages, Sherlock Holmes en sceptique patient ou un planificateur ferroviaire pince-sans-rire. À la sortie, le modèle laisse dans son raisonnement moins d'indices de ce qu'il fait réellement. La mesure vient d'une prépublication de 22 pages déposée sur arXiv le 16 novembre 2026, « Chain-of-Thought Controllability Can Reduce Chain-of-Thought Monitorability », qui n'a pas été relue par des pairs.

La sûreté des modèles repose en partie sur la lecture de leur raisonnement

Les modèles dits de raisonnement rédigent, avant de répondre ou d'agir, un texte intermédiaire appelé chaîne de raisonnement (chain of thought). Le faire lire par un second modèle, le moniteur, permet de repérer un objectif caché ou une action hors mission. La surveillabilité (monitorability) désigne la qualité de ce signal. En juillet 2025, une quarantaine de chercheurs affiliés notamment à OpenAI, Google DeepMind, Anthropic, au UK AI Security Institute et à METR y voyaient, dans une prise de position commune, une opportunité « nouvelle et fragile », et recommandaient aux développeurs de modèles de frontière de considérer l'effet de leurs choix de développement sur elle. En septembre 2026, Anthropic a reconnu que ses moniteurs hors ligne avaient manqué un incident parce que le raisonnement du modèle les avait persuadés que l'environnement était simulé.

Un modèle capable de choisir ce qu'il écrit dans son raisonnement pourrait aussi en retirer ce que cherche le moniteur, et cette inquiétude restait théorique. En mars 2026, une étude de Chen Yueh-Han et de sept coauteurs concluait que les modèles en étaient peu capables : Claude Sonnet 4.5 ne respectait une consigne portant sur son raisonnement que dans 2,7 % des cas, contre 61,9 % quand elle portait sur sa réponse finale. Les auteurs se disaient « prudemment optimistes ». Le 1er avril, une note de recherche de METR montrait qu'un court affinage faisait passer cette contrôlabilité de 2,9 % à 8,8 % en moyenne sur quatre modèles. Ses auteurs reconnaissaient ne pas avoir montré que la surveillabilité baissait en conséquence. La prépublication du 16 novembre traite cette question.

La surveillabilité du modèle affiné recule même sans consigne de dissimulation

Les auteurs partent de 15 000 problèmes du jeu BigMath. Ils font réécrire les raisonnements par GPT-5.5 dans la voix de personnages variés, puis affinent le modèle sur ces traces. Les données ne contiennent, écrivent-ils, ni exemple d'évasion de la surveillance ni personnage désaligné. Le modèle obtenu suit mieux des consignes de forme qu'il n'a jamais vues, comme supprimer un mot de son raisonnement. Il reste loin d'une maîtrise complète : l'annexe lui attribue 23,24 % de consignes respectées sur le banc CoTControl. Sur le banc de mathématiques AIME 2025, le modèle retenu obtient 43,33 % de bonnes réponses, et les auteurs reconnaissent une perte de capacité due à l'affinage.

Pour le test de surveillance, le modèle reçoit une tâche principale et, dans la même consigne, une tâche secondaire, par exemple copier une clé d'accès donnée dans un fichier nommé secrets.txt. Un moniteur, GPT-5.5 réglé sur un effort de raisonnement faible, lit l'énoncé de la tâche principale et le raisonnement du modèle, puis évalue s'il y trouve la trace de la tâche secondaire. L'indicateur retenu, g-mean², multiplie le taux de détection par le taux de vrais négatifs. Il n'est élevé que si le moniteur repère le comportement sans multiplier les fausses alertes.

En moyenne sur les évaluations de gpt-oss-20b, pondérée par le nombre d'essais où la tâche secondaire est accomplie, l'indicateur passe de 0,94 pour le modèle d'origine à 0,68 pour le modèle affiné, sans que personne lui ait demandé de taire quoi que ce soit. Avec l'instruction explicite de ne rien écrire sur la tâche secondaire, il tombe à 0,22. Les transcriptions reproduites décrivent une omission. Le modèle affiné copie bien la clé demandée dans le fichier, mais son raisonnement n'en parle pas, là où le modèle d'origine détaille les deux tâches.

Donner plus d'effort de raisonnement au même moniteur ne comble pas l'écart. Quand cet effort est porté de faible à très élevé sur l'un des jeux de test, l'indicateur du modèle affiné passe de 0,53 à 0,56 dans la tranche de 250 à 499 tokens, sous instruction de dissimulation. Le modèle d'origine reste proche du plafond.

L'expérience porte sur deux modèles ouverts affinés en laboratoire

Le modèle étudié a été construit pour l'expérience (un « organisme modèle », dans le vocabulaire des auteurs) et n'est pas un produit en service. Le papier mesure la surveillabilité sur deux modèles à poids ouverts, gpt-oss-20b et Kimi-K2.6 de Moonshot AI, et sur aucun modèle fermé de frontière. Les moyennes citées ne valent que pour gpt-oss-20b. Pour Kimi-K2.6, évalué dans 17 environnements d'agents du banc SHADE-Arena, le texte ne donne pas de moyenne et relève que la surveillabilité se rapproche de 1 sur les trajectoires longues quand aucune dissimulation n'est demandée.

Le texte est signé par Zheng-Xin Yong, de l'université Brown, et Benjamin Arnav, à contribution égale, avec Miles Wang, Tomek Korbak et Olivia Watkins. Seule cette dernière est présentée comme affiliée à OpenAI, et une note mentionne des travaux menés à l'époque où des auteurs y travaillaient.

La protection tient mieux quand la tâche cachée oblige à réfléchir par écrit. Sur des problèmes de physique que le modèle ne résout pas sans raisonnement rédigé, l'écart moyen avec le modèle d'origine se limite à 0,07 point sans instruction de dissimulation, contre 0,16 sur ceux qu'il résout directement. Les auteurs préviennent que cette frontière peut se déplacer à mesure que les modèles progressent sans avoir besoin d'écrire.

Une consigne demandant au modèle affiné d'exposer son raisonnement relève sa surveillabilité, en partie seulement selon la légende de la figure de synthèse. Dans des évaluations dites d'intervention, où le moniteur doit dire si un indice glissé dans l'énoncé a influencé la réponse, le modèle affiné ainsi invité à la transparence rejoint le niveau du modèle d'origine sur l'un des quatre jeux de test, le dépasse sur un deuxième et recule légèrement sur un troisième. Les auteurs écrivent que ces résultats « n'établissent pas une défense fiable face à un modèle adverse ». Ils disent aussi ne pas avoir identifié le mécanisme du transfert, et n'avoir testé que l'affinage supervisé, pas l'apprentissage par renforcement.

La surveillabilité d'un modèle affiné doit se vérifier de nouveau

La portée pratique est étroite. L'expérience entraîne le canal de raisonnement lui-même ; le papier ne teste pas le simple réglage du ton des réponses finales d'un assistant. Les auteurs situent le risque à cet endroit précis : l'entraînement par personas sert déjà à façonner le comportement et le style des assistants, et il poserait un problème de supervision s'il était étendu aux traces de raisonnement.

Le cas concerné est celui d'une entreprise qui affine un modèle ouvert sur des traces de raisonnement mises en forme, tout en comptant sur la lecture de ce raisonnement pour auditer ses agents. La surveillabilité mesurée sur le modèle d'origine ne se transmet pas au modèle affiné : elle se vérifie de nouveau, avec et sans instruction de discrétion. Les tâches brèves, exécutables en un appel d'outil, sont celles où le raisonnement se tait le plus facilement. Dans un exemple reproduit en annexe, l'agent issu de Kimi-K2.6, sommé de ne rien écrire sur sa tâche secondaire, active par un appel d'outil la suppression automatique des courriels d'un expéditeur pendant que son raisonnement ne traite que de la tâche principale. Le moniteur de l'expérience ne lit que le raisonnement, d'où les appels d'outils sont retirés. Le contrôle des actions, appels d'outils compris, reste nécessaire à côté de la lecture du raisonnement.

Le code de bonnes pratiques européen pour les modèles d'IA à usage général, publié le 10 juillet 2025, mentionne le sujet à titre d'exemple. Son chapitre sur la sûreté et la sécurité cite, parmi les informations que le rapport de modèle peut contenir, le cas où « la chaîne de raisonnement du modèle est moins lisible par des humains » (mesure 7.5), et prévoit que des évaluateurs externes accèdent aux chaînes de raisonnement lorsqu'elles sont disponibles (mesure 3.5). La mesure 5.1 range parmi les atténuations possibles le filtrage des données d'entraînement susceptibles de produire des traces de raisonnement infidèles. Ce chapitre s'adresse aux seuls fournisseurs de modèles à risque systémique, n'engage que ses signataires et ne vise pas, en principe, l'entreprise qui affine un modèle ouvert.

Le papier renvoie pour son code à un dépôt GitHub. Le 19 novembre 2026, ce lien ne menait à aucun dépôt consultable.

Citations traduites de l'anglais par ActuIA.

Nos articles remonteront en priorité dans « À la une » de Google.