Devant le Conseil de sécurité de l'ONU, Amodei propose d'interdire l'IA pour les armes biologiques et Altman appelle à « une extrême prudence »
Le 23 septembre 2026, quatre responsables ont briefé le Conseil de sécurité des Nations unies sur l'IA. Yoshua Bengio, coprésident du groupe scientifique international indépendant sur l'IA, a dit des entreprises qu'elles reconnaissent les risques catastrophiques de leurs produits sans solution technique convaincante et « disent qu'elles sont engagées dans une course pour rendre ces IA encore plus puissantes, une course où tout le monde perd ». Dario Amodei, directeur général d'Anthropic, a jugé que l'IA « pourrait représenter un risque pour l'humanité dans son ensemble » si elle est mal gérée, et invité les États à des accords étroits, par exemple l'interdiction d'employer l'IA pour fabriquer des armes biologiques. Sam Altman, d'OpenAI, a estimé que l'auto-amélioration récursive des modèles impose « une extrême prudence » ; dans le texte publié par son entreprise, il ajoute qu'aucun niveau de risque de catastrophe, « 10 %, 1 %, 12 % ou 0,1 % », n'est acceptable. Clément Delangue, de Hugging Face, a situé le principal danger dans « l'asymétrie » des IA puissantes entre attaquants et défenseurs.
