Intelligence artificielle L'ONU appelle à un moratoire sur l'utilisation de la reconnaissance faciale

Pour approfondir le sujet

Sur le même thème :

Valérie Pécresse s’exprime sur l’utilisation de l’intelligence artificielle pour la vidéoprotection dans les transports en commun d’Ile-de-France

Dans le cadre d'une interview donnée à France Info, Valérie Pécresse, présidente sortante de la région Île-de-France, a évoqué la question de l'intelligence artificielle...

Intégration de l’autonomie des systèmes d’armes létaux : Le Comité d’éthique de la défense remet son avis

Après la publication de ses travaux sur le soldat augmenté, le Comité d'éthique de la défense a remis à Florence Parly et au ministère...

L’OMS publie son rapport mondial sur l’intelligence artificielle appliquée au domaine de la santé

Le 29 juin 2021, l'Organisation mondiale de la santé (OMS) a publié son rapport consacré à la gouvernance et à l'éthique de l'intelligence artificielle...

Systèmes de reconnaissance automatisée dans les espaces publics : le CEPD et l’EDPB demandent leur interdiction

En avril dernier, le Contrôleur européen de la Protection des Données (CEPD) exprimait sa réserve sur la reconnaissance faciale, en lien avec la réglementation...

L’ONU appelle à un moratoire sur l’utilisation de la reconnaissance faciale

L’Organisation des Nations Unies (ONU) a expliqué que certains systèmes d’intelligence artificielle étaient dans son viseur. Elle considère notamment que les systèmes de reconnaissance faciale peuvent représenter un risque très sérieux dans le non-respect des droits de l’homme, particulièrement lorsque cette technologie est utilisée dans les espaces publics. C’est pour cela que l’ONU appelle à un moratoire sur certaines utilisations de l’IA.

La reconnaissance faciale dans le viseur de l’ONU

Le respect des droits de l’Homme à travers le monde est l’une des premières préoccupations de l’ONU qui considère que la reconnaissance faciale peut entraver ces droits internationaux. Michelle Bachelet, haut-commissaire des Nations unies aux droits de l’Homme a notamment déclaré ceci :

“Tous les pays, sans exception, doivent expressément interdire les applications d’intelligence artificielle qui ne respectent pas le droit international des droits de l’Homme. […] Leur utilisation peut avoir des effets négatifs, voire catastrophiques, si elles sont utilisées sans tenir suffisamment compte de la manière dont elles affectent les droits des personnes.”

Dans le cadre de ses travaux sur la technologie et les droits de l’homme, le Haut-Commissariat des Nations Unies aux droits de l’homme (HCDH) a publié aujourd’hui un rapport qui analyse la manière dont l’IA, y compris le profilage, la prise de décision automatisée et d’autres technologies d’apprentissage automatique, affecte le droit de la population à la vie privée et d’autres droits, notamment les droits à la santé, à l’éducation, à la liberté de mouvement, à la liberté de réunion pacifique et d’association, et à la liberté d’expression.

Un appel à un moratoire à propos de certains systèmes d’intelligence artificielle

L’organisation intergouvernementale appelle ainsi à un moratoire en lien avec ces technologies et plus précisément sur la reconnaissance faciale. Michelle Bachelet ajoute :

“Étant donné la croissance rapide et continue de l’IA, combler l’immense déficit de responsabilité dans la manière dont les données sont collectées, stockées, partagées et utilisées est l’une des questions en matière de droits de l’homme les plus urgentes auxquelles nous sommes confrontés. Le risque de discrimination lié aux décisions prises par l’IA – des décisions qui peuvent changer, définir ou endommager des vies humaines – est bien réel. C’est pourquoi il faut une évaluation et un suivi systématiques des effets des systèmes d’IA afin d’identifier et d’atténuer les risques en matière de droits de l’homme.”

L’ONU considère par exemple que les systèmes gouvernementaux de “notation sociale” devraient purement et simplement être interdits. De plus, toujours selon l’ONU, les déductions, les prévisions et la surveillance effectuées par les outils d’IA, y compris la recherche d’informations sur les modèles de comportement humain, soulèvent de graves questions.

Le rapport de l’IA a mis en avant plusieurs dysfonctionnements de l’IA par le passé qui aurait empêché des gens de toucher des aides sociales ou de trouver un emploi. Certaines personnes innocentes auraient été arrêtées par la police sur la base de systèmes de reconnaissance faciale mal entraînés n’ayant pas reconnu correctement des personnes aux traits physiques africains par exemple.

Sans sermonner une ou plusieurs nations en particulier, le message qu’adresse l’ONU est adressé à l’ensemble des décideurs politiques. Selon madame Bachelet, “il faut agir dès maintenant pour mettre en place des protections en matière de droits de l’homme quant à l’utilisation de l’IA, pour le bien de tous”.

 
Zacharie Tazrout

Partager l'article

La France et l’Allemagne débloquent 17,5 millions d’euros pour financer les cinq projets lauréats de leur APP commun

Dans le cadre de la Présidence française du Conseil de l’Union européenne, la Direction générale des Entreprises (DGE) organise, avec le soutien du Hub...

La start-up marseillaise Telaqua annonce une levée de fonds de 4 millions d’euros

Telaqua, startup marseillaise spécialisée dans la gestion des systèmes d’irrigation agricoles et viticoles, a annoncé le 11 mai dernier une levée de fonds de...

L’accélérateur de start-ups Future4care inaugure officiellement ses locaux et sa plateforme numérique

Le 10 juin 2021, Sanofi, Capgemini, Generali et Orange annonçaient la création de Future4care qui a pour ambition d’accélérer le développement de solutions européennes...

Hewlett Packard Enterprise annonce la construction de sa première usine dédiée au HPC et à l’IA en Europe

Hewlett Packard Enterprise (HPE) a annoncé, le 18 mai, la construction de sa première usine en Europe destinée à soutenir le développement de supercalculateurs...
Recevoir une notification en cas d'actualité importante    OK Non merci