Intelligence artificielle Focus sur les recommandations de la CNCDH visant à promouvoir un encadrement...

Pour approfondir le sujet

Sur le même thème :

Irlande : le gouvernement envisage d’adopter la technologie de reconnaissance faciale pour sa police nationale

Selon « The Irish Times », la ministre irlandaise de la Justice, Helen McEntee, a annoncé fin mai que son département élaborait une législation...

Focus sur le projet de l’UJM et l’université d’Ottawa : « Vers une approche franco-canadienne de la régulation de l’intelligence artificielle »

L'Université Jean Monnet (UJM) et l'Université d'Ottawa collaborent depuis plusieurs années. Une équipe de chercheurs du CERCRID (CEntre de Recherches CRItiques sur le Droit),...

I-Stem, Généthon et Kantify découvrent une thérapie prometteuse contre les maladies génétiques

Les équipes d’I-Stem et de Généthon, laboratoires de l’Association Française contre les Myopathies (AFM-Téléthon), ont collaboré avec la start-up belge Kantify, spécialisée dans le...

SystemX crée les « Tech Labs @SystemX » pour accélérer la valorisation et le transfert technologique de ses actifs

SystemX, l’Institut de Recherche Technologique (IRT) dédié à l’ingénierie numérique des systèmes, a annoncé le 16 mai dernier, la mise en place de «...

Focus sur les recommandations de la CNCDH visant à promouvoir un encadrement juridique ambitieux de l’IA

Le 21 avril 2021, la Commission Européenne présentait son projet de réglementation de l’IA. Plus récemment, en décembre dernier, la Slovénie qui assurait alors la présidence du Conseil de l’UE, soumettait un texte de compromis concernant ce projet de loi visant à interdire le scoring social, à encadrer l’utilisation de l’identification biométrique et des systèmes d’IA à haut risque. C’est dans ce contexte que la Commission Nationale Consultative des Droits de l’Homme (CNCDH) a adopté en avril dernier un « Avis relatif à l’impact de l’intelligence artificielle sur les droits fondamentaux » et publié 19 recommandations.

La CNCDH est l’institution nationale française de promotion et de protection des droits de l’Homme. Créée en 1947 à l’initiative de René Cassin, Prix Nobel de la Paix, accréditée auprès des Nations-Unies, indépendante, elle apporte ses conseils aux pouvoirs publics, assure le contrôle des engagements internationaux de la France en matière de droits de l’Homme et de droit international humanitaire. Elle a également pour mission d’éduquer et de sensibiliser aux droits humains.

Pour conseiller les pouvoirs publics et éclairer leurs décisions, elle publie des études, des rapports et des avis.

L’avis relatif à l’impact de l’intelligence artificielle sur les droits fondamentaux

Alors que le projet de réglementation de l’IA est en voie d’être adopté et que le Conseil de l’UE poursuit ses travaux, la CNCDH a publié cet avis adopté à l’unanimité le 7 avril dernier. Elle est d’ailleurs tout à fait d’accord avec les propositions que la Slovénie a faites en décembre dernier et soumet au total 19 recommandations dont voici la synthèse :

  • Recommandation n°1 : La CNCDH recommande de privilégier, dans la communication institutionnelle, une terminologie plus neutre et objective que l’expression « intelligence artificielle » telle que « systèmes algorithmiques d’aide à la décision » (SAAD).
  • Recommandation n°2 : La Commission recommande de renforcer, au sein de la proposition de règlement l’Union européenne relatif à l’IA, les dispositions propres à assurer la mise en place d’un cadre juridique contraignant, garant du respect effectif des droits fondamentaux. De surcroît, la CNCDH recommande l’adoption, dans le cadre du Conseil de l’Europe, d’une « Convention 108+ de l’IA ».
  • Recommandation n°3 : La CNCDH recommande la prise en compte d’une approche fondée sur les droits de l’Homme dans les réformes en cours, dès lors qu’elles entendent garantir le respect des droits fondamentaux.
  • Recommandation n°4 : La CNCDH recommande l’interdiction du recours aux interfaces de choix dès lors qu’elles ont pour objet ou pour effet de manipuler, à leur détriment, les utilisateurs en exploitant leurs vulnérabilités.
  • Recommandation n°5 : La CNCDH recommande d’interdire tout type de notation sociale (« social scoring ») mis en place par les administrations ou par toute entreprise, publique ou privée.
  • Recommandation n°6 : La CNCDH recommande d’interdire l’identification biométrique à distance des personnes dans l’espace public et les lieux accessibles au public, en admettant par exception son utilisation, dès lors que celle-ci est strictement nécessaire, adaptée et proportionnée pour la prévention d’une menace grave et imminente pour la vie ou la sécurité des personnes et celle des ouvrages, installations et établissements d’importance vitale.
  • Recommandation n°7 : La CNCDH recommande de poursuivre et d’approfondir la réflexion afin d’identifier les apports et les limites d’une utilisation de l’IA dans le cadre des procédures juridictionnelles.
  • Recommandation n°8 : La CNCDH recommande d’interdire les technologies de reconnaissance des émotions, en admettant par exception leur utilisation dès lors qu’elles visent à renforcer l’autonomie des personnes, ou plus largement l’effectivité de leurs droits fondamentaux.
  • Recommandation n°9 : La CNCDH recommande que l’utilisateur d’un système d’IA évalue l’impact du recours à ce système sur les droits fondamentaux et, en cas de risques identifiés, procède à leur évaluation en tenant compte de la probabilité et de la gravité de ces derniers.
  • Recommandation n°10 : En fonction des risques engendrés par un système d’IA sur les droits fondamentaux dans un contexte d’usage particulier, la CNCDH recommande d’assurer préalablement à la décision d’y recourir, une consultation des parties prenantes, selon des modalités adaptées, en incluant par exemple les représentants du personnel et, plus largement, les personnes visées par le système d’IA.
  • Recommandation n°11 : La CNCDH recommande de mettre en place une supervision du système d’IA, selon une procédure susceptible de varier selon les risques d’atteintes aux droits fondamentaux tels qu’identifiés par l’étude d’impact, afin de maintenir une vigilance en continu de la part de l’utilisateur à l’égard des effets du système, notamment ses effets discriminatoires.
  • Recommandation n°12 : La CNCDH recommande de favoriser les investissements publics dans la conception d’outils de formation et d’information accessibles au plus grand nombre.
  • Recommandation n°13 : La CNCDH recommande l’organisation de consultations nationales sur le modèle des États généraux de la bioéthique organisés par le Comité consultatif national d’éthique.
  • Recommandation n°14 : La CNCDH recommande à l’Éducation nationale de renforcer la formation des élèves aux enjeux techniques, politiques et sociétaux de l’intelligence artificielle et de proposer, à cette fin, des supports pédagogiques à destination des enseignants.
  • Recommandation n°15 : La CNCDH recommande de :
    – garantir une intervention humaine pour le contrôle des décisions individuelles issues d’un système d’IA selon des modalités correspondant au niveau de risque de ce dernier ;
    – en assurer l’effectivité par une formation appropriée et une information de l’intervenant sur les caractéristiques du système, sans lui imposer de contrainte particulière lorsqu’il s’écarte de la préconisation issue du système d’IA ;
    – assurer aux usagers du service public le maintien systématique d’un accès alternatif à un agent humain.
  • Recommandation n°16 : La CNCDH recommande de reconnaître au bénéfice des utilisateurs des systèmes d’IA un droit au paramétrage de leurs critères, notamment afin de déterminer la sélection et la présentation des contenus reçus, et plus généralement dans l’hypothèse des interactions humain-machine.
  • Recommandation n°17 : La CNCDH recommande d’informer systématiquement les personnes lorsqu’elles sont exposées ou amenées à interagir avec un système d’IA et, lorsqu’elles font l’objet d’une décision, que cette dernière se fonde, le cas échéant, en partie ou totalement sur un traitement algorithmique.
  • Recommandation n°18 : La CNCDH recommande de garantir à la personne concernée un droit au réexamen, par un être humain, de toute décision individuelle fondée totalement, ou même en partie, sur un traitement algorithmique, dès lors qu’elle emporte des conséquences significatives pour elle.
  • Recommandation n°19 : La CNCDH recommande aux administrations de communiquer sous une forme intelligible les informations sur le fonctionnement de l’algorithme, ainsi que sur la part éventuellement prise par une intervention humaine dans le processus de décision. Elle recommande par ailleurs de mener une réflexion s’agissant de l’extension de cette obligation aux organismes privés.

 
Marie-Claude Benoit

Partager l'article

META AI dévoile BlenderBot 3, un projet de recherche sur l’IA conversationnelle

Après avoir présenté BlenderBot en 2020, la mouture BlenderBot 2.0 en 2021, META a dévoilé BlenderBot 3 le 5 août dernier. Comme pour ses...

Reconnaissance faciale : la plateforme « From Numbers to Name » aide à identifier les victimes de l’Holocauste

Le deep learning est aujourd'hui utilisé dans de nombreux domaines, il l'est de plus en plus dans celui de l'histoire. Daniel Patt, un ingénieur...

Lancement de l’appel à candidatures de la phase V des pôles de compétitivité

Alors que la phase IV (2019-2022) des pôles de compétitivité prendra fin en décembre 2022, Bruno Le Maire, Ministre de l’Economie, des Finances et...

Focus sur SMART, programme de l’IARPA visant à identifier et surveiller les constructions à grande échelle grâce au machine learning

L'IARPA (Intelligence Advanced Research Projects Activity), la branche de recherche de la communauté du renseignement aux Etats-Unis, a lancé le programme SMART (Space-based Machine...
Recevoir une notification en cas d'actualité importante    OK Non merci