Les technologies de reconnaissance faciale, posturale et comportementale, en pleine croissance depuis une décennie, ont désormais des implications majeures dans des domaines variés tels que la sécurité, la finance ou les transports. Le Comité national pilote d'éthique du numérique (CNPEN) a publié le 29 janvier dernier un avis sur les enjeux éthiques qu'elles soulèvent.
Le CNPEN a été créé en décembre 2019 par Edouard Philippe, alors premier ministre, et placé sous l'égide du Comité consultatif national d'éthique pour les sciences de la vie et de la santé (CCNE). Il réunit des personnalités du monde académique, industriel et institutionnel, experts dans divers domaines, contribuant à une réflexion éthique nécessaire face au développement numérique et participant à éclairer le débat public.
Le CNPEN a déjà émis des avis sur divers sujets, tels que les systèmes d'intelligence artificielle générative, la rétroactivité d'un changement de nom dans les documents scientifiques numériques, ainsi que les enjeux éthiques liés à l'IA dans le diagnostic médical et les plateformes de données de santé.
Les membres du groupe de travail de ce dernier avis sont :
- les rapporteurs Karine Dognin-Sauze et Jean-Gabriel Ganascia,
- Raja Chatila, Laure Coulombel, Laurence Devillers, Claude Kirchner, Catherine Tessier et Célia Zolynski.
"L'avis ne cherche ni à condamner ni à glorifier l'utilisation de ces technologies, mais plutôt à éclairer et à susciter une réflexion éthique approfondie. Il s'adresse à toutes les parties prenantes, qu'il s'agisse des scientifiques, ingénieurs, développeurs, fournisseurs, utilisateurs exploitants, opérateurs, législateurs, représentants institutionnels, régulateurs, organismes de certification ou personnes physiques exposées aux technologies de reconnaissance".
Le Comité insiste sur l'importance d'une évaluation approfondie des technologies déployées, examinant leur adéquation avec les objectifs visés et anticipant les conséquences à court, moyen et long terme sur la société. Il met en garde contre une approche simpliste du débat, soulignant sa complexité et appelant à une régulation équilibrée basée sur des évaluations expérimentales rigoureuses des performances. Karine Dognin-Sauze, membre du CNPEN et co-rapporteur de l’avis, affirme :"L'évaluation des technologies de reconnaissance biométrique doit être approfondie et adaptée à chaque contexte spécifique. Nous devons éviter les généralisations hâtives et prendre en compte la complexité des enjeux éthiques auxquels nous sommes confrontés".
Le CNPEN émet 19 recommandations qui explorent des notions familières telles que la finalité, la proportionnalité, la transparence et l'équité. Parmi celles-ci, le Comité recommande d'énoncer "de façon explicite les finalités poursuivies par le recours aux systèmes de reconnaissance faciale, posturale et comportementale, afin qu’aucune finalité ne soit passée sous silence ou dissimulée". D'autres recommandations sont plus spécifiques, couvrant des aspects tels que les dimensions scientifiques, les expérimentations, ainsi que les implications économiques et sociales liées au déploiement de ces dispositifs technologiques. Le CNPEN traite, notamment, la question des biais et propose d'inclure « une mention explicite de la présence potentielle de biais » lors de l'installation de ces systèmes. Il encourage également la définition systématique d'un protocole précisant les finalités, les hypothèses, le détail de la mise en œuvre, les acteurs impliqués, le cadre, ainsi que la durée, pour toute expérimentation d’un système de reconnaissance faciale, posturale ou comportementale. L'avis et ces recommandations ont pour objectif d'aider les citoyens à prendre conscience des évolutions technologiques et à décider démocratiquement de la société dans laquelle ils souhaitent vivre, en tenant compte des impératifs de sécurité, des avantages des technologies et des risques pour les libertés individuelles et collectives. L’avis complet et les recommandations détaillées sont disponibles sur le site institutionnel du CNPEN.