Lors de son message intitulé “Intelligence artificielle et paix“, à l’occasion de la 57ème Journée mondiale de la paix, le Pape François a abordé l’impact de l’IA sur la société, la culture et la paix. Il y souligne les opportunités que présente l’IA mais également ses défis éthiques et sociaux et appelle la communauté internationale à adopter un traité contraignant pour réglementer les différentes formes d’IA, leur développement et leur utilisation.
Selon le Pape, “les remarquables progrès des nouvelles technologies de l’information, en particulier dans la sphère numérique, présentent des opportunités enthousiasmantes et des risques graves, avec de sérieuses implications pour la poursuite de la justice et de l’harmonie entre les peuples”.
Pour que l’IA contribue de manière bénéfique à l’avenir de l’humanité et à la paix entre les peuples, les valeurs humaines fondamentales telles que l’inclusion, la transparence, la sécurité, l’équité, la confidentialité et la fiabilité doivent être respectées.
Les défis éthiques de l’IA
Le pape souligne les préoccupations éthiques majeures dues à l’utilisation croissante de l’IA, notamment le risque de préjugés et de discriminations, la possibilité de manipulation des décisions individuelles, les conséquences de la catégorisation automatique et de la surveillance, mais également l’impact sur l’emploi : “des emplois qui étaient autrefois l’apanage exclusif de la main-d’œuvre humaine sont rapidement absorbés par les applications industrielles de l’intelligence artificielle. Là encore, le risque d’un avantage disproportionné pour quelques-uns au détriment de l’appauvrissement du plus grand nombre est important. Le respect de la dignité des travailleurs et l’importance de l’emploi pour le bien-être économique des personnes, des familles et des sociétés, la sécurité de l’emploi et l’équité des salaires devraient être une priorité absolue pour la Communauté internationale”.
De graves questions éthiques sont liées au secteur de l’armement, plus particulièrement “la possibilité de mener des opérations militaires à travers des systèmes de contrôle à distance”, grâce aux systèmes d’armes létales autonomes, et le risque que des armes sophistiquées ne finissent entre les mains de terroristes.
A contrario, le pape estime que l’IA peut être utilisée pour promouvoir le développement humain intégral, en introduisant “d’importantes innovations dans l’agriculture, dans l’éducation et dans la culture, une amélioration du niveau de vie de nations et de peuples entiers, la croissance de la fraternité humaine et de l’amitié sociale”.
Les défis pour l’éducation
Selon le pape “Les jeunes grandissent dans des environnements culturels imprégnés par la technologie et cela ne peut que remettre en cause les méthodes d’enseignement et de formation”. Il invite à promouvoir leur pensée critique et à renforcer leur capacité de discernement, ajoutant que “La formation à l’utilisation des nouveaux outils de communication devrait tenir compte non seulement de la désinformation, des fausses nouvelles, mais aussi de la recrudescence inquiétante de « peurs ancestrales […] qui ont su se cacher et se renforcer derrière les nouvelles technologies”
Les défis pour le développement du droit international
Le pape exhorte la communauté internationale à adopter un traité international contraignant qui règlemente le développement et l’utilisation de l’intelligence artificielle sous ses multiples formes.
“Il ne suffit pas non plus de supposer que ceux qui conçoivent les algorithmes et les technologies numériques s’engagent à agir de manière éthique et responsable. Des organismes doivent être renforcés ou, si nécessaire, créés pour examiner les questions éthiques émergentes et protéger les droits de ceux qui utilisent les formes d’intelligence artificielle ou sont influencés par elles”.
Il conclut son message par ces mots “Ma prière au début de l’année nouvelle est que le développement rapide de formes d’intelligence artificielle n’augmente pas les trop nombreuses inégalités et injustices déjà présentes dans le monde, mais contribue à mettre fin aux guerres et aux conflits, et à soulager les nombreuses formes de souffrance qui affligent la famille humaine”.
