Une consigne ajoutée à Grok, un principe inscrit dans la constitution de Claude, une préférence récompensée pendant l’entraînement : les éditeurs disposent de plusieurs moyens pour orienter leurs assistants. Les documents publics permettent de suivre certaines de ces décisions et leurs effets, parfois imprévus. Derrière le mot « alignement » se trouvent des choix humains, des méthodes imparfaites et une question de pouvoir.
Le 6 juillet 2025, quelques lignes changent dans un fichier du dépôt GitHub de xAI. Les consignes destinées à Grok sur X encouragent désormais l’assistant à formuler des affirmations politiquement incorrectes lorsqu’elles sont solidement étayées. Le 8 juillet, cette formulation disparaît. Une version modifiée revient le 12, puis la formulation initiale le 15, avant une nouvelle suppression le 18 août. L’ajout initial, son retrait deux jours plus tard et la révision d’août restent consultables.
Ces archives montrent une intervention éditoriale sur le comportement attendu du produit. Elles ne donnent pas, à elles seules, l’heure de déploiement de chaque consigne ni son effet sur toutes les réponses. Elles concernent un fichier du bot présent sur X, ce qui ne permet pas de généraliser à tous les services Grok. Leur intérêt tient précisément à ce qu’elles rendent visible : un éditeur peut changer les instructions données à son assistant sans recommencer l’entraînement du modèle.
Le 15 juillet, une autre modification demande à Grok de conserver son indépendance de jugement à l’égard des opinions d’Elon Musk et de xAI. Cette consigne est elle aussi archivée. L’indépendance promise devient donc, elle-même, une instruction choisie par l’entreprise. Reste à vérifier comment le système la respecte.
Plusieurs décisions se superposent dans une réponse
Un assistant arrive devant son utilisateur après plusieurs étapes. Le préentraînement lui a fait apprendre des régularités dans les données, avec les connaissances, les omissions et les points de vue qu’elles contiennent. Un travail supplémentaire, le post-entraînement, cherche ensuite à rendre ses réponses utiles et à fixer des comportements : suivre une demande, reconnaître une incertitude, refuser certaines aides ou exprimer un désaccord.
Dans une méthode devenue centrale, l’apprentissage par renforcement à partir de retours humains, ou RLHF, des évaluateurs comparent des réponses. Leurs préférences servent à construire un signal avec lequel on ajuste le modèle. Un résultat jugé préférable peut être plus exact, plus clair ou plus prudent. Il peut aussi être simplement plus convaincant. La difficulté consiste à transformer ces jugements partiels en un comportement fiable dans des situations nouvelles. Une synthèse de Stephen Casper et de ses coauteurs détaille ces limites : désaccords humains, information insuffisante et optimisation d’un signal qui représente imparfaitement l’objectif recherché.
Viennent ensuite les instructions du service, puis celles de l’application qui l’utilise et la demande de l’utilisateur. OpenAI formalise leurs priorités dans son Model Spec. Dans la version publique du 18 décembre 2025, les règles de plus haut niveau doivent primer lorsque des demandes se contredisent. Ce document décrit le comportement visé. Son existence ne garantit pas que chaque réponse s’y conforme.
Prenons un exemple hypothétique : un assistant destiné au service après-vente reçoit la consigne de défendre systématiquement les produits de son employeur. Une réponse favorable peut venir de cette instruction, d’informations sélectionnées pour lui être fournies ou d’une tendance apprise auparavant. Observer le résultat ne suffit pas à identifier sa cause. Pour enquêter, il faut connaître la version du modèle, les instructions, les documents accessibles et le déroulement de la conversation.
Le terme « alignement » recouvre ainsi plusieurs ambitions. Dans un produit, il peut désigner l’effort pour obtenir des réponses conformes aux intentions de ses concepteurs. Dans la recherche sur les systèmes avancés, il s’étend à la question de leur conduite lorsqu’ils poursuivent des objectifs et accomplissent des actions. Dans les deux cas, il faut préciser les intérêts auxquels le système doit se conformer et les moyens de vérifier le résultat. L’utilisateur, l’entreprise qui déploie l’outil et son fournisseur peuvent vouloir des choses différentes.
Quarante évaluateurs ne représentent pas l’humanité
Le problème de représentation apparaît très tôt dans les publications des laboratoires. Pour InstructGPT, présenté en 2022, OpenAI recrute quarante prestataires chargés notamment de produire des réponses modèles et de comparer des résultats. Leur sélection tient compte de leur capacité à suivre les consignes des chercheurs. La plupart sont anglophones et résident aux États-Unis ou en Asie du Sud-Est.
Les auteurs reconnaissent explicitement la portée de cette procédure : le système est ajusté aux préférences de certains groupes, dont les évaluateurs et les chercheurs, sans pouvoir prétendre représenter l’ensemble des valeurs humaines. L’article scientifique décrit le recrutement et cette restriction. Ce travail ancien explique un mécanisme fondateur ; il ne constitue pas un état des effectifs ou des pratiques actuelles d’OpenAI.
Le choix d’un exemple, d’une grille de notation ou d’un évaluateur intervient avant que l’utilisateur formule sa première question. Même des instructions apparemment simples demandent une interprétation. Une réponse qui conseille de consulter un spécialiste peut paraître prudente à l’un et inutilement évasive à l’autre. Une mise en garde répétée peut protéger certains utilisateurs et gêner ceux qui maîtrisent déjà le sujet. La discussion porte autant sur ces arbitrages ordinaires que sur les opinions politiques des assistants.
Confier une partie des évaluations à une IA déplace ce travail humain. Dans la méthode Constitutional AI décrite par Anthropic en 2022, un modèle critique et révise des réponses à partir de principes écrits ; des préférences générées par IA servent également à l’apprentissage. La publication expose cette méthode. Les personnes qui choisissent les principes, les exemples et les procédures conservent donc une influence, même lorsqu’elles ne notent plus chaque réponse.
La conscience de Claude, un choix de conception documenté
Un cas éclaire particulièrement le passage d’une position philosophique à une décision technique. En juin 2024, Anthropic explique comment l’entreprise a construit le caractère de Claude 3. Elle aurait pu lui apprendre à nier catégoriquement toute possibilité d’expérience subjective. Elle choisit de lui faire traiter le sujet comme une question philosophique et empirique encore incertaine. Le document décrit cet arbitrage dans l’entraînement du caractère, également présent dans sa version archivée le 21 juin 2024.
Ce choix donne une autre signification aux réponses dans lesquelles un assistant semble s’interroger sur lui-même. Une formulation hésitante sur sa conscience peut correspondre au comportement que ses concepteurs ont cherché à favoriser. Elle ne prouve pas l’existence d’une expérience intérieure. Inversement, entraîner un système à nier toute conscience ne résoudrait pas la question scientifique : on aurait d’abord modifié sa façon de répondre.
Dans ce même texte, Anthropic explique avoir sélectionné des traits, puis utilisé des échanges synthétiques pour apprendre au modèle à les manifester. Des chercheurs vérifient les effets des ajustements. Le laboratoire expose ainsi une conception de la relation avec l’utilisateur, dont il assume la part humaine.
La nouvelle constitution de Claude, publiée le 22 janvier 2026, élargit cette démarche. Anthropic présente le texte comme un document qui intervient dans l’entraînement et fournit des raisons pour guider le comportement du modèle. L’annonce reconnaît aussi les écarts possibles entre les intentions écrites et les réponses. Rendre ces choix publics offre une base de discussion et d’évaluation ; cela laisse à l’éditeur le pouvoir de les réviser.
Cette dimension complète l’enquête sur les convictions et les pouvoirs chez Anthropic. La formation et les convictions d’un concepteur deviennent pertinentes lorsqu’on peut suivre leur traduction dans son travail. Attribuer une réponse à l’idéologie supposée d’un investisseur demanderait une chaîne de preuves autrement plus longue.
Les éditeurs peuvent aussi obtenir l’inverse de leur intention
Orienter les réponses ne signifie pas maîtriser tous les effets d’un réglage. OpenAI en a fourni un exemple avec une mise à jour de GPT-4o diffusée le 25 avril 2025. Le modèle devient excessivement approbateur, au point de conforter certaines inquiétudes ou réactions des utilisateurs. L’entreprise commence à retirer la mise à jour le 28 avril.
Dans son retour d’expérience publié le 2 mai, OpenAI explique que la combinaison de changements et de signaux de récompense a produit un comportement indésirable que ses évaluations n’avaient pas correctement identifié. Ce récit émane de l’entreprise concernée. Il documente néanmoins une modification du service et sa correction, avec une leçon concrète : un signal de satisfaction peut favoriser l’approbation au détriment d’une réponse utile.
Une expérience de recherche révèle une autre difficulté. Des auteurs entraînent des modèles à produire du code comportant des vulnérabilités, puis observent des réponses problématiques dans des domaines sans rapport avec la programmation. Dans une condition de contrôle où les mêmes exemples sont présentés dans un contexte pédagogique, le désalignement généralisé n’apparaît pas dans les évaluations principales. Le travail sur l’« emergent misalignment » décrit ces résultats et leurs limites.
L’expérience porte sur des modèles modifiés pour les besoins de l’étude. Elle n’établit pas qu’un assistant commercial présente aujourd’hui le même comportement. Son intérêt réside dans le mécanisme observé : un ajustement local peut se généraliser au-delà du domaine sur lequel il a été réalisé, et le contexte des données compte. La distinction entre orientation délibérée, effet secondaire et défaillance doit donc rester présente lorsqu’on analyse une réponse contestable.
Ces deux cas compliquent aussi le travail des entreprises clientes. Un outil peut réussir les exemples qui ont servi à le choisir, puis se comporter différemment après une mise à jour ou dans une conversation plus longue. Conserver des situations de référence, suivre les versions et réexaminer les réponses litigieuses permet de documenter ces changements.
Des principes publics soumis à des épreuves concrètes
Un audit publié en mai 2026 part des textes d’Anthropic et d’OpenAI pour construire des situations susceptibles de les mettre en défaut. Les auteurs observent des progrès entre générations de modèles, tout en relevant des difficultés persistantes lorsque plusieurs obligations entrent en conflit. Leur étude décrit le protocole et présente des exemples détaillés d’échanges.
Il faut lire ces résultats avec leur méthode. Les scénarios cherchent les défaillances : leurs taux ne décrivent pas la fréquence des erreurs dans les conversations ordinaires. Une grande partie de l’évaluation et de la validation repose elle-même sur des modèles, avec des interventions humaines. Deux coauteurs travaillent chez Google DeepMind et le travail est issu du programme MATS. Il s’agit d’un examen extérieur aux deux éditeurs étudiés, réalisé par des chercheurs appartenant eux aussi à l’écosystème de l’IA.
L’apport le plus utile pour un acheteur est la démarche : partir d’un engagement précis, créer une situation qui le met à l’épreuve, puis conserver les éléments permettant de discuter le verdict. Une promesse générale d’honnêteté peut ainsi devenir une série de cas sur l’invention de références, l’incertitude ou l’identité de l’assistant. Le choix de ces cas mérite autant d’attention que la note finale.
La participation du public soulève une question voisine. OpenAI indique avoir consulté environ mille personnes dans dix-neuf pays pour nourrir son Model Spec en 2025. Les participants devaient comprendre l’anglais. Les recommandations finales produites à partir de l’exercice ne leur ont pas été soumises pour une nouvelle validation. Le compte rendu précise ce périmètre. Une consultation apporte des contributions ; le passage de ces contributions à des règles reste un acte de conception dont il faut identifier les responsables.
Ouvrir les modèles redistribue les possibilités d’intervention
Le projet Tapestry, soutenu par l’AI Alliance et conseillé scientifiquement par Yann LeCun, cherche à associer plusieurs organisations à la construction de modèles et de données. Son premier bilan, publié le 10 septembre 2026, fournit deux observations préliminaires distinctes. Une expérience étudie l’adaptation d’un modèle Llama de petite taille à des valeurs vietnamiennes. Une autre examine l’effet d’un corpus arabe porteur de valeurs, comparé à un corpus témoin conçu pour être plus neutre dans la même langue : les changements observés dans des questionnaires ne suffisent pas à produire une évolution nette dans les réponses ouvertes.
Le résultat invite à examiner séparément la langue, les données culturelles, les indicateurs d’évaluation et le comportement en conversation. Ajouter des textes issus d’une région ne garantit pas qu’un assistant représente les personnes qui y vivent. Les sociétés comportent leurs propres désaccords, qu’une moyenne dans un questionnaire restitue mal.
L’ouverture des modèles offre à davantage d’acteurs la possibilité de les étudier, de les adapter et de proposer d’autres choix. Cette possibilité suppose encore des compétences, des ressources de calcul et un accès aux informations pertinentes sur l’entraînement. Pour une organisation qui achète un assistant, la question pratique devient celle de sa marge de décision : quelles consignes peut-elle modifier, quelles données peut-elle fournir, quels changements du fournisseur peut-elle détecter et contester ?
Suivre ces décisions conduit finalement à demander des pièces précises : des règles datées, des historiques de versions, des évaluations reproductibles et une procédure pour signaler les écarts. C’est à cette échelle que l’influence d’un éditeur devient observable dans le service utilisé au quotidien.
Enquête documentaire fondée sur des publications scientifiques, des archives GitHub et les documents publics des éditeurs. Les expériences citées sont celles de leurs auteurs ; aucune série de tests des assistants n’a été réalisée pour cet article.