HUDERIA : le nouvel instrument du Conseil de l'Europe pour évaluer l'impact des systèmes d'IA sur les droits de l'homme

La méthodologie HUDERIA (Human Rights, Democracy and Rule of Law Impact Assessment), conçue pour protéger et promouvoir les droits de l'homme, la démocratie et l'État de droit, fournit des orientations et une approche structurée pour la réalisation d'évaluations des risques et d'impact des systèmes d'IA. Cet outil vise à mettre en place des garde-fous essentiels contre les risques apportés par les technologies d'IA de plus en plus présentes dans nos sociétés, notamment en évaluant leur impact tout au long de leur cycle de vie.

Une évaluation rigoureuse du cycle de vie des systèmes d'IA

HUDERIA est le fruit de travaux entamés en 2019 par le Comité ad hoc sur l'intelligence artificielle (CAHAI) et s'inscrit dans une perspective de prévention et d'atténuation des risques inhérents aux systèmes d'IA. Elle propose une méthodologie rigoureuse, bien que juridiquement non-contraignante, et flexible pouvant être appliquée tant par des acteurs publics que privés pour identifier et traiter les risques en matière de droits humains, de démocratie et d'État de droit. La méthodologie repose sur une analyse contextuelle des risques (COBRA) visant à cartographier les impacts possibles et à fournir une vision globale du contexte socio-technique des IA.

Le processus d'engagement des parties prenantes

HUDERIA intègre un processus de consultation et d'engagement des parties prenantes (Stakeholder Engagement Process, SEP) permettant de contextualiser et corroborer les risques potentiels à partir des retours des personnes affectées. L'enjeu est de faire dialoguer à chaque étape les concepteurs, les régulateurs, mais aussi les utilisateurs et les groupes potentiellement vulnérables face aux IA. Ce processus participatif est essentiel pour s'assurer que les risques identifiés reflètent bien les réalités socio-économiques et technologiques.

Une évaluation des risques adaptée et différenciée

La méthodologie prévoit une évaluation des risques et des impacts (“Risk and Impact Assessment”), permettant d'évaluer le degré de probabilité et de sévérité des impacts sur les droits fondamentaux. Ces évaluations sont adaptées aux contextes et aux niveaux de risques associés aux différents systèmes d'IA. Par exemple, un système utilisé dans un contexte sensible comme le recrutement de personnel fera l'objet d'une évaluation plus rigoureuse pour détecter d'éventuels biais discriminatoires. HUDERIA ne s'arrête pas à l'évaluation. Elle fournit également des recommandations pratiques pour la mise en place d'un plan d'atténuation des risques. Ce plan peut inclure des mesures comme l'ajustement des algorithmes pour corriger des biais ou encore l'implémentation d'une surveillance humaine des systèmes d'IA lorsque cela est nécessaire.

Une réévaluation itérative pour une IA éthique et sûre

HUDERIA suit une approche dynamique et itérative qui impose une réévaluation régulière des systèmes d'IA afin de s'assurer de leur sécurité et de leur éthique, même lorsque le contexte technologique ou sociétal évolue. Cette flexibilité est essentielle à la gestion des risques émergents et garantit que les systèmes d'IA ne deviennent pas obsolètes face aux nouvelles menaces ou contextes d'utilisation. Adoptée par le Comité sur l'intelligence artificielle du Conseil de l'Europe (CAI, qui a succédé au CAHAI en 2022), lors de sa 12e réunion plénière tenue à Strasbourg en novembre 2024, la méthodologie HUDERIA sera complétée d'ici 2025 par un modèle HUDERIA. Ce dernier fournira des ressources et outils de soutien supplémentaires, rendant la méthodologie encore plus opérationnelle et adaptée aux besoins divers des utilisateurs.