Intelligence artificielle La DNS publie ses recommandations pour une éthique de l’IA « by...

Pour approfondir le sujet

Sur le même thème :

Oregon : les services de protection de l’enfance vont cesser d’utiliser un algorithme entraîné pour détecter la maltraitance des enfants

Au CHU de Dijon, des chercheurs testent actuellement un algorithme pour dépister la maltraitance des enfants, grâce à l'identification des pathologies et des lésions...

L’accélérateur de start-ups Future4care inaugure officiellement ses locaux et sa plateforme numérique

Le 10 juin 2021, Sanofi, Capgemini, Generali et Orange annonçaient la création de Future4care qui a pour ambition d’accélérer le développement de solutions européennes...

Focus sur la Charte de Pôle Emploi pour une utilisation éthique de l’intelligence artificielle

Pôle emploi a été l'un des lauréats du programme « Action Publique 2022 » pour son projet « installer l’intelligence artificielle au sein de...

Évènement : Un Symposium sur l’IA est organisé les 12 et 13 juillet à l’occasion des 20 ans du fonds MIT-France

Un Symposium sur l'intelligence artificielle est organisé les 12 et 13 juillet 2022 à Paris en l'honneur du 20e anniversaire du fonds MIT-France. Ce fonds...

La DNS publie ses recommandations pour une éthique de l’IA « by design » pour la santé

La Délégation ministérielle au Numérique en Santé (DNS) a publié en avril dernier ses Recommandations de bonnes pratiques pour intégrer l’éthique dès le développement des solutions d’intelligence artificielle en santé : mise en œuvre de « l’éthique by design ». Retour sur ce rapport.

Brigitte Seroussi, responsable de la cellule éthique du numérique en santé à la DNS et professeure des universités-praticienne hospitalière, dirige la cellule éthique du conseil du numérique en santé, agencée selon plusieurs groupes de travail. C’est le groupe de travail n°3, animé par David Gruson, spécialiste et directeur du programme santé de Luminess, qui est à l’origine de ce guide méthodologique. Son but est d’intégrer l’éthique dès le développement des solutions d’IA, ce qu’on appelle « léthique by design ».

Ce rapport est l’aboutissement d’une concertation des différentes parties prenantes de l’écosystème de la santé numérique. Il concrétise une démarche de deux ans pendant lesquels les travaux de la cellule éthique ont associé des experts pluri-professionnels avec des chercheurs en IA, des représentants de patients, des professionnels de santé, des juristes, des sociologues, des éthiciens, etc. On retrouve parmi eux Emeline Brule (École d’ingénierie et d’informatique, Université du Sussex), Madeleine Cavet (Médecin radiologue), Caroline Guillot (Health Data Hub) mais également Daniela Parrot (Déléguée à la protection des données, Ministère des solidarités et de la santé) et Philippe Lamoureux (LEEM). Ensemble, ils ont établi ces recommandations de bonnes pratiques, qui visent à intégrer l’éthique dès les premières étapes du développement des solutions d’IA en santé.

Ce livre blanc s’adresse « en priorité » aux concepteurs de solutions basées sur des algorithmes entraînés à partir de l’extraction massive de données, hors systèmes évolutifs auto-apprenants.

Le processus d’élaboration d’une solution d’IA comporte de nombreuses étapes : cadrage, collecte des données, prétraitement des données, construction de l’algorithme et évaluation de l’algorithme en amont de la mise en production de la solution numérique. Des questionnements éthiques propres à chacune de ces étapes ont été proposés, c’est ce que les experts ont désigné comme une conception « by design ». Par exemple, les fournisseurs devront effectuer une déclaration de conformité et s’assurer que le système d’IA à haut risque fait l’objet d’un marquage CE avant toute mise sur le marché. A chaque modification de celui-ci, une nouvelle évaluation de conformité devra être réalisée.

Certaines recommandations sont d’ailleurs déjà entrées dans le droit national et européen. On peut citer notamment la loi n° 2021-1017 du 2 août 2021 relative à la bioéthique, qui a introduit une obligation d’information à la charge des professionnels utilisant une IA en matière de santé.

 
Sarah Macé

Partager l'article

META AI dévoile BlenderBot 3, un projet de recherche sur l’IA conversationnelle

Après avoir présenté BlenderBot en 2020, la mouture BlenderBot 2.0 en 2021, META a dévoilé BlenderBot 3 le 5 août dernier. Comme pour ses...

Reconnaissance faciale : la plateforme « From Numbers to Name » aide à identifier les victimes de l’Holocauste

Le deep learning est aujourd'hui utilisé dans de nombreux domaines, il l'est de plus en plus dans celui de l'histoire. Daniel Patt, un ingénieur...

Lancement de l’appel à candidatures de la phase V des pôles de compétitivité

Alors que la phase IV (2019-2022) des pôles de compétitivité prendra fin en décembre 2022, Bruno Le Maire, Ministre de l’Economie, des Finances et...

Focus sur SMART, programme de l’IARPA visant à identifier et surveiller les constructions à grande échelle grâce au machine learning

L'IARPA (Intelligence Advanced Research Projects Activity), la branche de recherche de la communauté du renseignement aux Etats-Unis, a lancé le programme SMART (Space-based Machine...
Recevoir une notification en cas d'actualité importante    OK Non merci