C’est à l’initiative du Royaume-Uni qui en assure la présidence pour ce mois de juillet que le Conseil de sécurité s’est penché mardi dernier, pour la première fois de son histoire, sur l’impact de l’IA pour la paix et la sécurité internationales . Le Secrétaire général de l’ONU, M. António Guterres, a exhorté le Conseil de sécurité à exercer son leadership et à promouvoir la transparence, la redevabilité et la surveillance des systèmes d’IA.
Tout en rappelant qu’il avait déclaré à l’Assemblée générale voici déjà six ans que l’IA aurait un impact considérable sur le développement durable, le monde du travail et le tissu social, M. António Guterres s’est dit choqué et impressionné par l’avancée radicale que constitue l’IA générative, dont il a jugé sans précédent la vitesse de développement et la portée.
Selon lui, l’IA pourrait donner un coup de fouet au développement mondial, à la lutte contre la crise climatique, à la recherche médicale, aux progrès en matière d’éducation, mais aussi amplifier les préjugés, renforcer les discriminations et permettre de nouveaux niveaux de surveillance autoritaire.
De l’urgence d’encadrer l’IA
Mr Guterres a toutefois souligné que “même ses propres concepteurs ignorent où leur stupéfiante percée technologique les mènera” et que “l’IA générative a un énorme potentiel de bien et de mal à grande échelle”.
Il a rappelé que l’IA est utilisée dans le cadre de la paix et de la sécurité, notamment par les Nations Unies “pour identifier les modèles de violence, surveiller les cessez-le-feu et bien d’autres choses, contribuant ainsi à renforcer nos efforts de maintien de la paix, de médiation et humanitaires”.
Mais elle peut également être utilisée à des fins malveillantes : cyberattaques, deepfakes…
Le Secrétaire Général a assuré :
“Les modèles d’IA peuvent aider les gens à se nuire mutuellement, à grande échelle. Soyons clairs : l’utilisation malveillante de systèmes d’IA à des fins terroristes, criminelles ou étatiques pourrait entraîner des niveaux horribles de mort et de destruction, des traumatismes généralisés et des dommages psychologiques profonds à une échelle inimaginable”.
Création d’un nouvel organisme pour régir l’IA
Les membres du Conseil se sont montrés conscients des enjeux cruciaux que soulève cette technologie et ont exprimé en majorité leur volonté d’adopter des principes d’éthique et de comportements responsables à l’échelle internationale, mais les propositions sur leur portée varient considérablement.
Certains s’étaient déclarés en faveur de la création d’une nouvelle entité de l’ONU pour régir l’IA, dont le modèle pourrait être basé sur l’Agence internationale de l’énergie atomique, l’Organisation de l’aviation civile internationale ou le Groupe d’experts intergouvernemental sur l’évolution du climat. L’objectif majeur de cet organisme serait “d’aider les pays à maximiser les avantages de l’IA pour le bien, à atténuer les risques existants et potentiels, et à établir et administrer des mécanismes de surveillance et de gouvernance convenus au niveau international”.
M. Guterres s’est félicité de ces appels et a indiqué avoir convoqué un organe consultatif multipartite qui présentera un rapport sur les possibilités de gouvernance mondiale de l’IA d’ici à la fin de l’année.
Interdire les armes létales autonomes d’ici 2026
Le Secrétaire général a annoncé que sa prochaine note d’information sur un Nouvel Agenda pour la paix formulerait des recommandations pour qu’ils élaborent des stratégies nationales conformes au droit international sur l’utilisation responsable de l’IA. Elle appellera également à la conclusion, d’ici à 2026, de négociations sur la création d’un instrument juridiquement contraignant visant à interdire les systèmes d’armes létaux fonctionnant sans contrôle humain (SALA).
Donner une décision de vie et de mort à une technologie à partir de données pose évidemment un problème d’éthique. Pour rappel, depuis 2013, les Nations-Unies travaillent sur le sujet des “robots tueurs”. Dès 2018, António Guterres a invité les Etats membres à interdire les armes létales autonomes, les qualifiant de “politiquement inacceptables et moralement révoltantes ”. Toutefois, les Nations-Unies n’ont toujours pas réussi à poser un cadre juridique à leur emploi faute d’entente entre ses états membres ( la Russie, les Etats-Unis, l’Inde et Israël étaient les principaux opposants à une réglementation).
António Guterres conclut :
“Le débat d’aujourd’hui est l’occasion de prendre en compte l’impact de l’intelligence artificielle sur la paix et la sécurité, car elle suscite déjà des préoccupations politiques, juridiques, éthiques et humanitaires. J’exhorte le Conseil à aborder cette technologie avec un sentiment d’urgence, une vision mondiale et une mentalité d’apprenant. Car ce que nous avons vu n’est que le début. Plus jamais l’innovation technologique ne progressera aussi lentement qu’aujourd’hui”.
