Intelligence artificielle Le Conseil d'Etat encourage le déploiement d'une IA de confiance au sein...

Pour approfondir le sujet

Sur le même thème :

Une équipe de chercheurs entraîne un réseau de neurones à une dégustation virtuelle

Une équipe de chercheurs du National Institute of Standards and Technology (NIST), de l'Université du Maryland ainsi que de Western Digital a développé un...

« The Internet Health Report » 2022 de la fondation Mozilla consacré à l’intelligence artificielle

La Fondation Mozilla s'est donné pour mission de garantir qu’Internet soit une ressource publique mondiale, ouverte et accessible à tous. En 2017, elle...

Accélérer le diagnostic du rhumatisme psoriasique grâce à l’intelligence artificielle

Les symptômes du rhumatisme psoriasique sont peu spécifiques, semblables à ceux d'autres formes de rhumatismes inflammatoires chroniques. Cependant, le diagnostiquer précocement permet de soulager la...

De l’importance du rôle des algues terrestres dans le cycle du carbone

Le mot algue évoque la mer, pourtant il existe aussi des algues terrestres et on peut les trouver aussi bien dans les déserts, les...

Le Conseil d’Etat encourage le déploiement d’une IA de confiance au sein des services publics

Fin août, le Conseil d’Etat a publié une étude adoptée en assemblée générale plénière le 31 mars dernier portant sur l’utilisation de l’IA au sein des services publics. Menée à la demande en juin 2021 de Jean Castex, alors 1er Ministre, intitulée « Intelligence artificielle et action publique : construire la confiance, établir la performance », elle plaide pour la mise en œuvre d’un déploiement de l’IA résolument volontariste, au service de l’intérêt général et de la performance publique.

Selon le Conseil d’Etat, dans une acception étroite très répandue, dite « IA connexionniste », les systèmes d’IA (SIA) sont limités à l’apprentissage automatique. Il a opté de son côté pour une acception plus large, d’ailleurs privilégiée par le projet de règlement européen, pour cette étude, dite « IA symbolique » incluant des systèmes dont les règles de fonctionnement sont paramétrées explicitement par l’homme mais disposant d’une certaine latitude pour déterminer la solution satisfaisante ou optimale d’un problème complexe (exemple des systèmes-experts).

Le Conseil d’Etat relève que le secteur public ne bénéficie pas, dans le domaine de l’innovation numérique, du même capital confiance que les entreprises alors que peu d’études se sont penchées sur son utilisation de l’IA. Il déclare même que « Si l’IA fait couler beaucoup d’encre, plus ou moins sympathique, la question de son utilisation dans la sphère publique demeure, quant à elle, assez peu étudiée. Le nombre modeste de rapports et d’articles spécifiquement consacrés au déploiement des outils basés sur l’intelligence artificielle dans l’action publique contraste singulièrement avec le battage médiatico-scientifique général que suscite ce thème. Comme si l’administration était vouée à en rester un acteur de second plan, agissant dans l’ombre des géants privés du numérique, au risque d’ailleurs de s’exposer au soupçon et au procès d’intention, qu’il s’agisse du remplacement subreptice de l’agent public par la machine ou des velléités de surveillance de masse de la population. »

Prendre conscience du potentiel de performance des systèmes d’IA et de sa sous-exploitation par les collectivités publiques

L’IA ne se déploie encore que très progressivement dans les services publics et souvent de façon expérimentale, mais un plus grand déploiement de l’IA améliorerait la qualité du service public sur de nombreux points : la continuité du service public 24h/24, la pertinence des décisions et prestations délivrées ou de l’égalité de traitement, réduction des délais d’examen des demandes des usagers…

La cartographie du Conseil d’Etat sur l’usage des SIA au sein des services publics démontre qu’ aucun n’est imperméable à ces systèmes et n’a, a priori, pas vocation à l’être. Elle donne pour exemple divers domaines dans lesquels les SIA sont d’ores et déjà opérationnels :

  • La gestion des territoires : circulation automobile, entretien de la voirie, gestion des déchets, de l’eau, de l’éclairage public, du nettoyage urbain, navette autonome…;
  • La défense et la sécurité : détection de forces militaires sur des images aériennes et satellite, prévention des attaques informatiques, détection de la désinformation d’origine étrangère avec Viginum, lecture automatisée de plaque d’immatriculation, anticipation des catastrophes naturelles par les services de secours, reconnaissance faciale de suspects ou de victimes par la police judiciaire… ;
  • Les activités de contrôle et de lutte contre la fraude : ciblage des contrôles fiscaux et douaniers, contrôle aux frontières, détection de constructions non autorisées sur des images satellite… ;
  • La justice : pseudonymisation des jugements, recherche documentaire, évaluation des préjudices en cas de dommage corporel… ;
  • La politique de l’emploi : appariement entre offre et demande d’emplois, personnalisation de l’accompagnement… ;
  • L’éducation : prévention du décrochage scolaire, affectation en première année de l’enseignement supérieur… ;
  • La protection sociale : liquidation des prestations, identification du non-recours aux droits… ;
  • La santé : aide au diagnostic et à la prescription médicale, alertes sanitaires, robotique médicale…

L’étude souligne cependant qu’à l’instar de ses voisins européens, la France ne vit pas une révolution de l’IA publique, mais connaît un déploiement très progressif des SIA dans les services publics, très inégal selon les administrations et souvent expérimental.

Conduire une stratégie volontariste et lucide de déploiement de l’IA publique de confiance

L’IA a le potentiel de renforcer la relation humaine entre le citoyen et l’agent public en dégageant du temps grâce à l’automatisation de certaines tâches (accusés de réception, demande de documents supplémentaires, etc.) et d’améliorer la qualité du service par l’accomplissement de tâches jusque-là matériellement impossibles. L’étude considère que la France ne doit pas attendre passivement le moment de conduire une stratégie de conception et de déploiement résolument volontariste mais le créer.

Elle souligne toutefois que pour en tirer des bénéfices, il faut tout d’abord créer les conditions de la confiance.

L’acceptabilité des SIA publics n’est pas acquise et ne le sera sans doute jamais entièrement, que ce soit par les citoyens ou les agents publics alors que ces derniers devraient donner l’exemple. Le Conseil d’Etat souligne qu’il « est impératif et urgent de rehausser le niveau de compréhension des citoyens comme des agents publics sur ce qu’est et ce que n’est pas l’intelligence artificielle, sur ce que ces systèmes permettent de faire ou d’espérer et ce qui leur est inaccessible, sur leur potentiel et les risques qu’ils comportent. »

L’étude propose à cet égard sept principes de l’IA publique de confiance, qui doivent être conciliés entre eux et appellent des arbitrages, et à la mise en œuvre desquels il importe d’associer autant que possible l’ensemble des parties prenantes, en particulier les partenaires sociaux, et les représentants des usagers-citoyens :

  • La primauté humaine: les SIA publics sont des outils au service de l’humain, leur mise en service ne doit pas être disproportionnée au regard des bénéfices qui en sont attendus. En outre, l’humain doit se porter garant du bon fonctionnement du SIA en le supervisant (grâce à des mesures techniques, juridiques, de formation et de gouvernance), notamment en cas de recours à un outil d’aide à la décision ;
  • La performance ;
  • L’équité et la non-discrimination ;
  • La transparence ;
  • La sécurité ;
  • La soutenabilité environnementale ;
  • L’autonomie stratégique.

Elaborer des lignes directrices de l’IA publique de confiance

La France doit anticiper la mise en place d’un cadre réglementaire, notamment au niveau européen, à travers la mise en œuvre, dès aujourd’hui, de lignes directrices pragmatiques permettant un déploiement progressif de l’IA dans les services publics, lucide et vigilant, au plus près des besoins des Français.

L’étude préconise une transformation profonde de la CNIL afin qu’elle devienne l’autorité de contrôle nationale responsable de la régulation des systèmes d’IA, notamment publics.

Lever les freins au déploiement des systèmes d’IA

Pour le Conseil d’Etat, ces systèmes ne résoudront pas à eux seuls les immenses défis auxquels la France est confrontée pas plus qu’ils ne doivent être le prétexte à la banalisation d’une complexité administrative et juridique gérée par la machine.

En outre, le potentiel considérable de ces systèmes ne doit pas faire perdre de vue leur complexité et la technicité de leur conception, qui ne s’improvise pas. Il faut libérer le potentiel de valeur de la donnée, former des datascientists et les retenir, piloter une stratégie RH de l’IA publique. L’étude a mis en lumière une culture de l’IA faible, voire inexistante, chez la plupart des agents publics, y compris à haut niveau de responsabilité. Le Conseil d’Etat considère que la structure hiérarchique des services exige une formation immédiate de tous les cadres dirigeants de la fonction publique et que compte tenu  de l’évolutivité rapide des techniques, une formation continue sera elle aussi essentielle.

Un renforcement d’Etalab, département de la Direction Interministérielle du Numérique (DINUM) qui coordonne la conception et la mise en œuvre de la stratégie de l’État dans le domaine de la donnée, et du coordonnateur national pour l’IA, en lien avec l’intervention de l’Agence nationale de la cohésion des territoires, permettrait de faire de l’Etat un  prestataire de services et pourvoyeur de ressources, y compris humaines, pour les collectivités territoriales.


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
WOP - Plateforme de Planification des Ressources Humaines par EURODECISION

La plateforme wop regroupe plusieurs modules de planification des ressources humaines : - module de gestion prévisionnelle des effectifs (gpec), - m...

 
Marie-Claude Benoit

Partager l'article

IA et Santé : levée de fonds de 27 millions d’euros pour Incepto, spécialiste de la santé digitale

Incepto, plateforme de solutions d’IA appliquées à l’imagerie médicale, a annoncé le 19 septembre dernier, avoir levé 27 Ms€ lors d’un tour de table...

Supply Chain : l’IMT Mines Albi et Scalian dressent le bilan de leurs travaux de recherche au sein de leur laboratoire commun SCAN

Le 2 septembre 2019, Scalian, groupe à dimension internationale spécialisé dans le conseil et l'ingénierie, et l'école d'ingénieurs IMT Mines Albi signaient un partenariat...

Région Occitanie : ANITI et Ekitia lancent une consultation régionale sur le rapport des citoyens à l’IA

Dans le cadre de sa stratégie de diffusion des connaissances en lien avec l’IA, l’Institut Interdisciplinaire d’Intelligence Artificielle de Toulouse (ANITI) et Ekitia (ex...

Les Galeries Lafayette lancent « Tailored Insights », une plateforme de retail media

Pour les entreprises, la compréhension et l’amélioration continue de l’expérience client sont devenues aussi importantes que le développement de produits, l’innovation ou le marketing....
Recevoir une notification en cas d'actualité importante    OK Non merci