Lutte contre les biais de l'IA : New York met en oeuvre une loi pour garantir des embauches équitables

Le 6 avril dernier, le Département de la protection des consommateurs et des travailleurs de la ville de New York (DCWP) a adopté une loi visant à réglementer l'utilisation des outils automatisés de décision en matière d'emploi (AEDT) à New York. La mise en oeuvre de cette nouvelle législation locale a débuté ce 5 juillet, d'autres états américains envisagent d'ailleurs des réglementations similaires. Diverses études ont révélé que les solutions d'IA les plus utilisées par les RH concernaient le recrutement de futurs employés. Une discrimination à l'embauche peut survenir lorsqu'un outil d'IA est entraîné sur des données qui reflètent des préjugés ou des inégalités existantes dans la société. Si les données utilisées pour former l'algorithme contiennent des biais, cela peut se traduire par des résultats discriminatoires, tels que la préférence pour certains groupes de candidats au détriment d'autres, en fonction de facteurs tels que la race, le sexe ou l'origine ethnique. Comment s'assurer que les algorithmes qui alimentent les outils d'IA ne comportent pas de biais de discrimination ? Pour prévenir la partialité dans les outils d'IA utilisés à des fins d'embauche, il est essentiel de mettre en place des mesures de précaution. Cela comprend l'utilisation de données de formation diverses et représentatives, l'examen attentif des critères utilisés par l'algorithme pour prendre des décisions, et la surveillance régulière des résultats pour détecter d'éventuels biais. La ville de New York a pris le taureau par les cornes et mis en place la loi AEDT qui oblige les employeurs s'appuyant sur un outil automatisé dans leur processus de recrutement à réaliser un audit annuel de leur technologie de recrutement. Selon cette loi locale 144, "un outil automatisé de décision en matière d’emploi (AEDT) est un outil informatique qui utilise l’apprentissage automatique, la modélisation statistique, l’analyse de données ou l’intelligence artificielle pour aider considérablement à prendre des décisions en matière d’emploi".

Equité et transparence

Toutes les entreprises ou agences de placement devront analyser et déterminer si leur utilisation d’un AEDT déclenche le respect de la loi locale. Si oui, elles devront faire effectuer un audit par un tiers afin de vérifier les cas de partialité, qu'elle soit intentionnelle ou non, intégrés dans ce système. Elles devront rendre publiques les informations sur cet audit : afficher un résumé des résultats sur leur site Web, mais aussi renseigner le type et la source des données utilisées pour l’outil et la politique de conservation des données. De plus, elles doivent être transparentes quant à l'utilisation de ces technologies et des critères utilisés pour l'évaluation : les candidats doivent être informés de l'utilisation de l'IA dans le processus de sélection. En cas de non-respect de la loi 144, ils auront la possibilité de déposer une plainte auprès du DCWP qui enquêtera alors et pourra imposer des amendes allant de 500 à 1 500 $ par violation constatée.

Biais dans l'utilisation de l'IA lors du recrutement : des préoccupations croissantes

On observe une montée des lois sur les biais de l'IA aux États-Unis reflétant la volonté de réglementer l'utilisation de l'IA dans le domaine de l'emploi afin de garantir des pratiques équitables et non discriminatoires. L'Assemblée du New Jersey envisage lui aussi d'imposer des limites à l'utilisation des outils d'IA lors du processus d'embauche, à moins que les employeurs ne puissent prouver qu'ils ont effectué un audit de biais. Le Maryland et l'Illinois ont quant à eux proposé des lois qui interdisent l'utilisation d'outils de reconnaissance faciale et d'analyse vidéo dans les entretiens d'embauche sans le consentement des candidats.