Focus sur la Charte de Pôle Emploi pour une utilisation éthique de l’intelligence artificielle

Pôle emploi a été l'un des lauréats du programme « Action Publique 2022 » pour son projet « installer l’intelligence artificielle au sein de Pôle emploi comme levier d’accélération au retour à l’emploi durable ». Il  a été en fait l'un des premiers acteurs publics français à exploiter les potentialités de l’IA à si grande échelle : plateforme open innovation (pôle-emploi.io), plateforme InnovAction, le Lab Pôle emploi... Afin d’inscrire le développement des usages de l’IA dans un cadre éthique, Jean Bassères, directeur général de Pôle emploi, a proposé que l’établissement se dote d’une charte. Si les potentialités de l'IA sont nombreuses, aussi bien pour les agents de Pôle emploi que pour ses usagers, ses technologies peuvent soulever des problèmes éthiques et sociétaux. La Charte de Pôle emploi pour une IA éthique est le résultat d'un travail collaboratif auquel ont participé un groupe de travail pluridisciplinaire mais aussi des usagers, demandeurs d’emploi et conseillers. Elle concerne tous les algorithmes, services et solutions d’IA dont la conception, la définition, la mise en œuvre, l’usage, la finalité et les règles sont définies par Pôle emploi et relèvent de sa responsabilité (sauf dispositions règlementaires ou législatives liées à des traitements spécifiques. Revue par le Comité consultatif éthique externe de Pôle emploi sur l’IA, elle a ensuite été approuvée par son Conseil d’Administration.

Les engagements de la Charte de Pôle emploi pour garantir le développement et l’utilisation éthique des algorithmes et de l’intelligence artificielle

La Charte de Pôle emploi pour une IA éthique vise à permettre à Pôle emploi de remplir ses missions dans le respect des valeurs et des obligations des services publics. Pôle emploi s’y engage donc à ne mettre en œuvre que des algorithmes et solutions d’IA conçus pour servir les intérêts des agents et usagers de Pôle emploi, dans la limite de ses missions, à lutter contre des pratiques malveillantes à leur encontre mais surtout à placer l'humain au centre: l'Ia doit être à son service. Les algorithmes d’IA peuvent reproduire, renforcer ou générer des biais discriminatoires Pour garantir l'équité et la non-discrimination, Pôle emploi s’engage à limiter les biais algorithmiques en vue d’un traitement équitable pour tous les utilisateurs. De nombreuses personnes craignent que l'IA et l'automatisation des tâches qu'elle permet n'entraînent des suppressions d'emplois. La Charte veut rassurer les agents de Pôle emploi : l'humain a une place essentielle, l'IA peut les aider, éclairer leur choix, prendre des décisions mais ne peut les contraindre à les suivre, leur liberté de choix doit être respectée. Pour plus de transparence, Pôle emploi s’engage à informer les utilisateurs du fait qu'ils sont en interaction avec un système d'IA, des usages qui sont faits de leurs données et, pour le faire dans le respect de la loi, à recueillir leur consentement. La sécurité et la robustesse technique sont nécessaires pour assurer le respect de la vie privée des usagers ainsi que la fiabilité et la résilience aux attaques des services proposés. Pôle emploi s’engage à respecter les pratiques préconisées par l’ANSSI (Agence Nationale de la Sécurité des Systèmes d'Information) et la CNIL en matière de sécurisation des données : identification des données à risque, sécurisation des traitements, notification en cas de violation des données à caractère personnel. L'impact environnemental est le dernier volet de la Charte de Pôle emploi. Ce dernier, qui avait intégré volontairement une démarche RSE (Responsabilité Sociale des Entreprises) pour un environnement et un développement durable, s’engage à poursuivre sa démarche pour un numérique responsable et ainsi minimiser l’impact environnemental lié au développement et à l’utilisation d’algorithmes et de systèmes d’intelligence artificielle. Pôle emploi s’engage à revoir périodiquement sa charte et, le cas échéant, à la faire évoluer afin de la mettre en adéquation avec les évolutions technologiques, sociétales et règlementaires. Pôle emploi s’engage en outre à mettre en œuvre la gouvernance, l’organisation, les dispositifs et outils nécessaires pour garantir le respect des engagements de cette Charte.