Le 16 septembre 2026, à Sciences Po, Yann LeCun évoque James Bond pour qualifier un scénario de cyberattaque massive par des agents d'IA. Les défenseurs disposent, selon lui, de technologies et de compétences supérieures. Il affirme que l'arrivée des agents avantage la défense. Il ajoute que les attaques et les défenses deviennent plus sophistiquées, sans voir de changement clair de leur équilibre. Sur le risque biologique, il invoque les moyens nécessaires à la fabrication d'un agent pathogène, puis les motivations des spécialistes : ils auraient de meilleures perspectives que de travailler à un virus susceptible de les tuer.

Dans ces réponses, son optimisme technologique s'appuie aussi sur sa confiance dans l'humain. Or des acteurs compétents et bien intentionnés peuvent, ensemble, laisser survenir une catastrophe. LeCun travaille bien sur la sûreté des systèmes. La question qui demeure concerne la fiabilité des décisions humaines et des organisations chargées de la faire fonctionner, dans des circonstances qu'elles auront parfois mal anticipées.

Des protections techniques, des hypothèses sur les comportements

Cette confiance est explicite. Dans son entretien avec Lex Fridman publié en mars 2024, LeCun dit penser que les gens sont « fondamentalement bons », selon notre traduction, et relie le pessimisme sur l'IA à la défiance envers les personnes ou les institutions. Dans un entretien à The Hub en 2023, il soutenait déjà que les acteurs bien intentionnés disposeraient de davantage de moyens et que les utilisateurs rejetteraient les machines dangereuses. Si la technologie prenait une mauvaise direction, « nous arrêtons, tout simplement », expliquait-il.

LeCun propose aussi des réponses d'ingénierie. Chez Lex Fridman, il décrit une IA guidée par des objectifs intégrant des garde-fous, reconnaît que des comportements imprévus surviendront et prévoit une amélioration progressive des protections. Le compte rendu de son échange à l'INSEAD, publié le 14 septembre 2026, reprend cette ambition : anticiper les conséquences des actions grâce à des modèles du monde et intégrer des contraintes à la décision. Dans Fortune le 1er octobre, il attribue les incidents à des défauts de conception et de supervision, jugés évitables.

Ces recherches donnent une base technique à son optimisme. Elles laissent ouvertes les conditions collectives de leur réussite. Un utilisateur peut vouloir un outil utile sans connaître ses dangers. Une direction peut hésiter à interrompre une activité. Plusieurs équipes peuvent partager une hypothèse erronée. Le problème commence bien avant la malveillance : il suffit parfois que chacun fasse confiance à une protection dont personne n'a vérifié les limites.

Une catastrophe n'a pas besoin de menacer l'humanité

L'histoire industrielle offre une autre échelle de gravité que l'extinction. L'explosion d'AZF, à Toulouse en 2001, a touché une ville bien au-delà de l'usine. Les travaux de santé publique documentent ses conséquences sur la santé et sur la vie personnelle, familiale et professionnelle des habitants. Un accident local peut produire des dommages durables, qui dépassent largement le périmètre de l'organisation à son origine.

À Fukushima, l'analyse des facteurs humains et organisationnels menée pour le rapport de l'AIEA décrit comment les acteurs concernés ont renforcé mutuellement leurs présupposés sur la sûreté. Ces convictions partagées ont fait obstacle à une préparation adéquate à l'accident de mars 2011. La confiance dans le système faisait elle-même partie du problème.

Ces précédents ne mesurent pas le risque de l'IA. Ils rappellent ce que peut coûter un défaut d'anticipation, même dans des secteurs où travaillent des spécialistes de la sûreté. À mesure que l'IA se diffuse, il faut partir du principe que des accidents graves surviendront et chercher à réduire leur probabilité comme leur portée. La capacité à corriger ensuite ne répond pas, à elle seule, à la question des dommages subis entre-temps.

Les incidents récents, dont les dommages établis restent limités, montrent déjà des écarts entre les protections prévues et leur fonctionnement. Nos articles sur la requalification des incidents d'Anthropic et sur six rapports d'OpenAI détaillent ces mécanismes. Survenus pendant des entraînements ou des évaluations, ils ne permettent pas de déduire un taux de risque en production. Ils montrent que concevoir une règle, l'appliquer et détecter son contournement sont trois tâches distinctes.

Selon une enquête de CNN publiée le 18 septembre 2026, l'armée américaine aurait failli intercepter, au printemps, un navire chinois au Moyen-Orient sur la base d'un rapport assisté par IA qui identifiait à tort sa cargaison comme liée à un programme d'armes nucléaires. L'opération aurait été annulée après vérification. Ce récit repose sur quatre sources anonymes ; le Pentagone n'avait pas répondu à CNN. Le mécanisme décrit est celui d'une information erronée intégrée à une chaîne de décision humaine.

La supériorité des défenseurs ne protège pas tout le monde

La malveillance ajoute une autre difficulté. Les attentats du 11-Septembre, qui relèvent d'une attaque délibérée et non d'un accident industriel, ont opposé des moyens profondément inégaux. La commission d'enquête américaine souligne la disproportion entre les ressources du groupe terroriste et celles du pays frappé. Elle relève des défaillances d'anticipation, de politique, de capacités et de gestion.

Leurs conséquences ont dépassé les destructions immédiates : la réponse de l'OTAN a notamment transformé ses missions et ses capacités. La supériorité matérielle des défenseurs ne garantissait pas la protection contre une attaque majeure et ses effets en cascade.

Cette supériorité est en outre inégalement distribuée. Dans son évaluation publiée en mai 2025, le NCSC britannique prévoyait une fracture entre les systèmes capables de suivre le rythme des menaces renforcées par l'IA et une large part de systèmes plus vulnérables. Les moyens des meilleurs laboratoires ou des grandes puissances ne décrivent donc pas la protection effective de toutes les entreprises et institutions.

La sûreté se construit aussi dans les institutions

L'analogie aéronautique souvent employée par LeCun est éclairante. Rendre les moteurs plus fiables a demandé un travail considérable d'ingénierie. Mais l'histoire de la sécurité aérienne comprend aussi la certification, le contrôle du trafic et l'enquête sur les accidents. La collision du Grand Canyon, en 1956, a révélé l'insuffisance de la prévention des collisions malgré la croissance du trafic. Deux ans plus tard, les États-Unis créaient une nouvelle agence fédérale indépendante chargée de la sécurité de l'aviation civile.

La maîtrise du risque s'est donc construite à plusieurs niveaux. Des dispositifs collectifs ont organisé la circulation de l'information, le contrôle et l'intervention. Cette histoire soutient la possibilité d'un progrès technique plus sûr. Elle montre aussi le travail institutionnel nécessaire et le prix payé lorsque les protections restent insuffisantes.

LeCun reconnaît lui-même une place à ces institutions. À Sciences Po, il défend des tests indépendants pour l'aide à la conduite et une autorisation de mise sur le marché pour l'analyse de mammographies. Il estime cependant que les réglementations existantes suffisent généralement et récuse, dans l'état actuel de l'IA, un danger intrinsèque justifiant de réguler la recherche.

Le point à examiner est donc précis : ces cadres et leurs moyens de contrôle couvriront-ils effectivement les nouveaux usages ? Qui peut vérifier les protections, accéder aux traces d'un incident, prévenir les tiers concernés et imposer une correction ? Ces capacités doivent pouvoir être examinées indépendamment de la confiance accordée aux développeurs. Notre enquête sur la gouvernance d'Anthropic posait déjà cette difficulté : partager une intention de prudence et disposer du pouvoir de la faire respecter sont deux choses différentes.

Distinguer les menaces, organiser la prévention

Le débat public s'est polarisé autour de scénarios d'extinction. Dans un extrait d'entretien publié par BBC Newsnight le 10 septembre 2026, Geoffrey Hinton juge « pas déraisonnable » une estimation de 10 % de risque que l'IA tue tous les humains d'ici dix ans. Il s'agit de son appréciation du risque. À Sciences Po, LeCun insiste, lui, sur la supériorité des défenseurs et balaie d'un revers de la main les scénarios à la James Bond . Cette partie de sa réponse, qui reste sur le même plan que ses contradicteurs, donne au débat une lecture manichéenne, où la sécurité dépend de l'avantage des acteurs bien intentionnés sur leurs adversaires.

Le 11-Septembre rappelle que des moyens supérieurs ne suffisent pas à empêcher une attaque majeure, dont les conséquences peuvent dépasser très largement les destructions immédiates. Mais la prévention du terrorisme et celle des accidents industriels demandent des analyses distinctes, même si certaines protections se recoupent. Une erreur de conception, une consigne ambiguë ou une défaillance de coordination peuvent provoquer des dommages sans qu'aucun acteur ait cherché à nuire.

LeCun reconnaît ces défaillances et travaille sur leur prévention. Les qualifier d'évitables laisse toutefois entière la question des conditions réelles de cette prévention. Il devient nécessaire de parler ouvertement des accidents industriels graves que l'IA pourrait provoquer ou amplifier, d'évaluer leur probabilité et leur portée selon les usages, et d'expliciter les incertitudes. Développeurs, entreprises utilisatrices et pouvoirs publics doivent partager les enseignements des incidents et décider ensemble des moyens de protection.

Freiner le développement de l'IA ne suffirait pas : d'autres continueraient d'avancer. Ses bénéfices justifient de poursuivre les recherches et les usages, avec des protections dont l'efficacité puisse être vérifiée. Tests indépendants, limitation des accès, séparation des systèmes et procédures d'intervention doivent réduire la probabilité des accidents et contenir leurs conséquences. Cela suppose des budgets, des responsabilités identifiées et le pouvoir effectif d'interrompre une opération. Qui reçoit l'alerte, qui décide de l'arrêt et qui prévient les personnes exposées ?

Des dispositifs existent déjà, avec des périmètres et des degrés de contrainte différents, mais ils sont encore insuffisants. Notre état des lieux de la régulation de l’IA compare les initiatives internationales, les lois nationales et leur état d’application.