Intelligence artificielle L'ONU appelle à un moratoire sur l'utilisation de la reconnaissance faciale

Pour approfondir le sujet

Sur le même thème :

Valérie Pécresse s’exprime sur l’utilisation de l’intelligence artificielle pour la vidéoprotection dans les transports en commun d’Ile-de-France

Dans le cadre d'une interview donnée à France Info, Valérie Pécresse, présidente sortante de la région Île-de-France, a évoqué la question de l'intelligence artificielle...

Intégration de l’autonomie des systèmes d’armes létaux : Le Comité d’éthique de la défense remet son avis

Après la publication de ses travaux sur le soldat augmenté, le Comité d'éthique de la défense a remis à Florence Parly et au ministère...

L’OMS publie son rapport mondial sur l’intelligence artificielle appliquée au domaine de la santé

Le 29 juin 2021, l'Organisation mondiale de la santé (OMS) a publié son rapport consacré à la gouvernance et à l'éthique de l'intelligence artificielle...

Systèmes de reconnaissance automatisée dans les espaces publics : le CEPD et l’EDPB demandent leur interdiction

En avril dernier, le Contrôleur européen de la Protection des Données (CEPD) exprimait sa réserve sur la reconnaissance faciale, en lien avec la réglementation...

L’ONU appelle à un moratoire sur l’utilisation de la reconnaissance faciale

L’Organisation des Nations Unies (ONU) a expliqué que certains systèmes d’intelligence artificielle étaient dans son viseur. Elle considère notamment que les systèmes de reconnaissance faciale peuvent représenter un risque très sérieux dans le non-respect des droits de l’homme, particulièrement lorsque cette technologie est utilisée dans les espaces publics. C’est pour cela que l’ONU appelle à un moratoire sur certaines utilisations de l’IA.

La reconnaissance faciale dans le viseur de l’ONU

Le respect des droits de l’Homme à travers le monde est l’une des premières préoccupations de l’ONU qui considère que la reconnaissance faciale peut entraver ces droits internationaux. Michelle Bachelet, haut-commissaire des Nations unies aux droits de l’Homme a notamment déclaré ceci :

“Tous les pays, sans exception, doivent expressément interdire les applications d’intelligence artificielle qui ne respectent pas le droit international des droits de l’Homme. […] Leur utilisation peut avoir des effets négatifs, voire catastrophiques, si elles sont utilisées sans tenir suffisamment compte de la manière dont elles affectent les droits des personnes.”

Dans le cadre de ses travaux sur la technologie et les droits de l’homme, le Haut-Commissariat des Nations Unies aux droits de l’homme (HCDH) a publié aujourd’hui un rapport qui analyse la manière dont l’IA, y compris le profilage, la prise de décision automatisée et d’autres technologies d’apprentissage automatique, affecte le droit de la population à la vie privée et d’autres droits, notamment les droits à la santé, à l’éducation, à la liberté de mouvement, à la liberté de réunion pacifique et d’association, et à la liberté d’expression.

Un appel à un moratoire à propos de certains systèmes d’intelligence artificielle

L’organisation intergouvernementale appelle ainsi à un moratoire en lien avec ces technologies et plus précisément sur la reconnaissance faciale. Michelle Bachelet ajoute :

“Étant donné la croissance rapide et continue de l’IA, combler l’immense déficit de responsabilité dans la manière dont les données sont collectées, stockées, partagées et utilisées est l’une des questions en matière de droits de l’homme les plus urgentes auxquelles nous sommes confrontés. Le risque de discrimination lié aux décisions prises par l’IA – des décisions qui peuvent changer, définir ou endommager des vies humaines – est bien réel. C’est pourquoi il faut une évaluation et un suivi systématiques des effets des systèmes d’IA afin d’identifier et d’atténuer les risques en matière de droits de l’homme.”

L’ONU considère par exemple que les systèmes gouvernementaux de “notation sociale” devraient purement et simplement être interdits. De plus, toujours selon l’ONU, les déductions, les prévisions et la surveillance effectuées par les outils d’IA, y compris la recherche d’informations sur les modèles de comportement humain, soulèvent de graves questions.

Le rapport de l’IA a mis en avant plusieurs dysfonctionnements de l’IA par le passé qui aurait empêché des gens de toucher des aides sociales ou de trouver un emploi. Certaines personnes innocentes auraient été arrêtées par la police sur la base de systèmes de reconnaissance faciale mal entraînés n’ayant pas reconnu correctement des personnes aux traits physiques africains par exemple.

Sans sermonner une ou plusieurs nations en particulier, le message qu’adresse l’ONU est adressé à l’ensemble des décideurs politiques. Selon madame Bachelet, “il faut agir dès maintenant pour mettre en place des protections en matière de droits de l’homme quant à l’utilisation de l’IA, pour le bien de tous”.


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Zacharie Tazrout

Partager l'article

Le groupe Manutan investit dans la Robotic Process Automatisation pour dynamiser son département Finances

Manutan, fournisseur européen de produits et services aux entreprises et aux collectivités et spécialiste du e-commerce BtoB, investit dans la Robotic Process Automatisation (RPA)...

Spice AI veut faciliter l’intégration de l’intelligence artificielle dans les applications

Spice AI, startup basée à Seattle, a pour objectif de faciliter le travail des développeurs lors du développement d'applications intelligentes. Bien que l'IA ait...

Podcast : L’université Paris Dauphine-PSL dévoile le premier épisode de « EX MACHINA, l’ère des algorithmes »

"IA : qui sont les humains derrière la machine ?", c'est le titre du tout premier podcast d'EX MACHINE, lancé par l'université Paris Dauphine-PSL....

Les startups Manitty, PaIRe et Beyond Aero récompensées lors de la 11e édition du prix Jean-Louis Gerondeau – Safran

Manitty, PaIRe et Beyond Aero sont les startups lauréates du prix Jean-Louis Gerondeau - Safran 2021. Leurs innovations dans les domaines de l’aéronautique, des...