Jack Clark

Le 28 septembre 2026, le Cambridge Programme on AI Science & Policy, rattaché à l'université de Cambridge, a publié « What if automating AI R&D triggers an intelligence explosion? », signé par vingt-deux auteurs : Geoffrey Hinton, Yoshua Bengio, Andrew Barto, Jakub Pachocki (directeur scientifique d'OpenAI), Jack Clark (cofondateur d'Anthropic), Eric Horvitz (Microsoft), Dawn Song (Berkeley) et Sören Mindermann, entre autres. Le texte constate que les systèmes d'IA écrivent désormais la majeure partie du code dans les entreprises qui les développent et juge qu'ils automatiseront l'essentiel de la recherche et du développement en IA d'ici quelques années, voire sa totalité. Il adresse trois demandes aux décideurs : obtenir de la visibilité sur cette automatisation, se doter de moyens de l'orienter et de la contenir, préparer les sociétés à ses effets. Trois risques extrêmes sont décrits : une croissance des capacités plus rapide que l'adaptation des sociétés, la perte de contrôle sur des systèmes surhumains et l'érosion des contrepoids entre États, entreprises et pouvoirs publics.

Le 15 septembre 2026, à la conférence annuelle Dreamforce de Salesforce à San Francisco, Sam Altman a déclaré que le monde a raison d'avoir peur de l'intelligence artificielle, jugeant qu'il faut désormais moins d'imagination qu'avant pour se figurer un scénario qui dérape. Le dirigeant d'OpenAI a ajouté que le monde devrait faire confiance aux entreprises du secteur pour agir correctement et s'est dit très confiant dans la capacité de la sienne et de l'industrie à maintenir l'alignement et la sûreté très en avance sur les capacités, promettant de ralentir ou d'arrêter si ce n'était plus le cas. Jack Clark, cofondateur d'Anthropic, avait déclaré la veille à la BBC qu'une industrie totalement non régulée revenait à jouer aux dés avec des risques immenses.

Le 14 septembre 2026, Jack Clark, l'un des sept cofondateurs d'Anthropic, a déclaré à la BBC qu'il pourrait un jour falloir légiférer sur un dispositif d'arrêt complet des logiciels d'IA jugés trop dangereux. Il indique que la plupart des laboratoires, Anthropic compris, disposent déjà de moyens de couper leurs systèmes, mais pose deux questions aux législateurs : faut-il imposer ce bouton d'arrêt aux entreprises, et doit-il être vérifiable par un tiers. Interrogé sur la probabilité chiffrée d'une extinction humaine causée par l'IA, il répond que ces statistiques ne lui paraissent pas utiles, tout en qualifiant de mauvaise idée le maintien d'un secteur totalement dérégulé. Aux États-Unis, des parlementaires ont déposé un texte baptisé Kill Switch Act ; le gouvernement britannique a écarté cette piste.

Le 28 juillet 2026, 1 224 salariés d'entreprises d'IA de pointe ont publié sur le site Pacing the Frontier une déclaration commune demandant au gouvernement américain de soutenir un effort international destiné à bâtir les outils techniques et de gouvernance permettant de cadencer volontairement le développement de l'IA automatisée. Le texte ne réclame ni moratoire ni pause, mais la possibilité future de gagner du temps, en invoquant le risque que les entreprises soient proches d'automatiser la recherche en IA. Il est porté par les signataires eux-mêmes, avec le soutien des associations Guidelight AI Standards et Encode AI. Parmi eux figurent le directeur général d'Anthropic Dario Amodei, les cofondateurs Jared Kaplan, Jack Clark et Benjamin Mann, le directeur scientifique d'OpenAI Jakub Pachocki, le cofondateur de Google DeepMind Shane Legg et Ilya Sutskever. Sam Altman n'a pas signé. Le compteur du site affichait 1 319 signataires le 31 juillet.

Le 4 juin 2026, l'Anthropic Institute a publié « When AI builds itself », un essai signé Marina Favaro et Jack Clark sur les risques de l'auto-amélioration récursive des systèmes d'IA. Anthropic y défend l'idée qu'il serait utile de pouvoir ralentir ou suspendre temporairement le développement de l'IA de pointe, mais sous condition : un tel arrêt ne serait efficace que si plusieurs laboratoires bien dotés, dans plusieurs pays, l'acceptaient aux mêmes conditions et que chacun puisse vérifier que les autres se sont effectivement arrêtés. L'éditeur écarte une pause unilatérale, qui ne ferait que changer le leader sans créer le débat collectif manquant. À l'appui de son constat sur l'accélération, Anthropic indique qu'en mai 2026, plus de 80 % du code intégré à sa base de code était écrit par Claude, et qu'au deuxième trimestre 2026 un ingénieur type fusionnait huit fois plus de code par jour qu'en 2024.