La DNS publie ses recommandations pour une éthique de l’IA « by design » pour la santé

DNS-publie-recommandations-pour-une-ethique-IA-by-design-pour-sante

La Délégation ministérielle au Numérique en Santé (DNS) a publié en avril dernier ses Recommandations de bonnes pratiques pour intégrer l’éthique dès le développement des solutions d’intelligence artificielle en santé : mise en œuvre de « l’éthique by design ». Retour sur ce rapport.

Brigitte Seroussi, responsable de la cellule éthique du numérique en santé à la DNS et professeure des universités-praticienne hospitalière, dirige la cellule éthique du conseil du numérique en santé, agencée selon plusieurs groupes de travail. C’est le groupe de travail n°3, animé par David Gruson, spécialiste et directeur du programme santé de Luminess, qui est à l’origine de ce guide méthodologique. Son but est d’intégrer l’éthique dès le développement des solutions d’IA, ce qu’on appelle « léthique by design ».

Ce rapport est l’aboutissement d’une concertation des différentes parties prenantes de l’écosystème de la santé numérique. Il concrétise une démarche de deux ans pendant lesquels les travaux de la cellule éthique ont associé des experts pluri-professionnels avec des chercheurs en IA, des représentants de patients, des professionnels de santé, des juristes, des sociologues, des éthiciens, etc. On retrouve parmi eux Emeline Brule (École d’ingénierie et d’informatique, Université du Sussex), Madeleine Cavet (Médecin radiologue), Caroline Guillot (Health Data Hub) mais également Daniela Parrot (Déléguée à la protection des données, Ministère des solidarités et de la santé) et Philippe Lamoureux (LEEM). Ensemble, ils ont établi ces recommandations de bonnes pratiques, qui visent à intégrer l’éthique dès les premières étapes du développement des solutions d’IA en santé.

Ce livre blanc s’adresse « en priorité » aux concepteurs de solutions basées sur des algorithmes entraînés à partir de l’extraction massive de données, hors systèmes évolutifs auto-apprenants.

Le processus d’élaboration d’une solution d’IA comporte de nombreuses étapes : cadrage, collecte des données, prétraitement des données, construction de l’algorithme et évaluation de l’algorithme en amont de la mise en production de la solution numérique. Des questionnements éthiques propres à chacune de ces étapes ont été proposés, c’est ce que les experts ont désigné comme une conception « by design ». Par exemple, les fournisseurs devront effectuer une déclaration de conformité et s’assurer que le système d’IA à haut risque fait l’objet d’un marquage CE avant toute mise sur le marché. A chaque modification de celui-ci, une nouvelle évaluation de conformité devra être réalisée.

Certaines recommandations sont d’ailleurs déjà entrées dans le droit national et européen. On peut citer notamment la loi n° 2021-1017 du 2 août 2021 relative à la bioéthique, qui a introduit une obligation d’information à la charge des professionnels utilisant une IA en matière de santé.

Recevez gratuitement l'actualité de l'intelligence artificielle

Suivez la Newsletter de référence sur l'intelligence artificielle (+ de 18 000 membres), quotidienne et 100% gratuite.


Tout comme vous, nous n'apprécions pas le spam. Vos coordonnées ne seront transmises à aucun tiers.

1ère Marketplace de l'IA et de la transformation numérique vous recommande :
OutSystems - Developpement Low code par DYNACENTRIX

Depuis mars 2022, dynacentrix est partenaire intégrateur de la solution de développement low-code visuel, à base de modèles assistés par une ia de la ...

 
Partager l'article
Offre exclusive : 1 an d'abonnement au magazine ActuIA + Le guide pratique d'adoption de l'IA en entreprise pour seulement 27,60€ Boutique ActuIA Pour tout abonnement à ActuIA, recevez en cadeau le Guide Pratique d'Adoption de l'IA en Entreprise, d'une valeur de 23€ !
intelligence artificielle
À PROPOS DE NOUS
Le portail francophone consacré à l'intelligence artificielle et à la datascience, à destination des chercheurs, étudiants, professionnels et passionnés.