Intelligence artificielle Datajust : Une proposition de résolution visant à encadrer la justice prédictive...

Pour approfondir le sujet

Sur le même thème :

Proptech : Partenariat entre la start-up Kize et Acheter-Louer.fr autour de leur solution de prédiction des prix de l’immobilier

Prédire les prix de l'immobilier est au coeur de l'algorithme d'intelligence artificielle développé par la Proptech Kize. La jeune pousse a annoncé avoir signé...

Quelles utilisations pour l’IA dans les systèmes judiciaires européens ? – Les recommandations de la CEPEJ

Le Conseil de l’Europe a annoncé ce jour l'adoption de la Charte éthique européenne sur l’utilisation de l’intelligence artificielle dans les systèmes judiciaires. Prenant...

Le CNES et Clemessy développent un simulateur de systèmes fluidiques à l’aide de réseaux de neurones artificiels

Le  Centre national d’études spatiales (CNES) et Clemessy collaborent actuellement au développement d'un simulateur de systèmes fluidiques, à l’aide de réseaux de neurones artificiels....

La justice dite « prédictive » en matière judiciaire : prérequis, risques et attentes – la réflexion en cours en France

En septembre dernier, la CEPEJ organisait à Riga une conférence intitulée « L’intelligence artificielle au service du pouvoir judiciaire ». L'occasion de présenter des...

Datajust : Une proposition de résolution visant à encadrer la justice prédictive et empêcher que l’intelligence artificielle prenne les décisions a été déposée

Suite à la publication du décret n° 2020-356, 27 mars 2020, JO 29 mars, permettant la mise en place d’un algorithme Datajust, recensant les montants d’indemnisation des préjudices corporels dans les décisions de justice (judiciaire et administrative), une proposition de résolution a été déposée ce 11 mai par Patrick Hetzel. Elle vise à encadrer la justice prédictive et empêcher que l’intelligence artificielle prenne les décisions de justice en lieu et place des juges.

La proposition a été déposée à l’Assemblé nationale ce 11 mai par Patrick HETZEL, Nathalie BASSIRE, Thibault BAZIN, Valérie BEAUVAIS, Émilie BONNIVARD, Ian BOUCARD, Xavier BRETON, Bernard BROCHAND, Fabrice BRUN, Josiane CORNELOUP, Marie‑Christine DALLOZ, Jean‑Pierre DOOR, Daniel FASQUELLE, Nicolas FORISSIER, Annie GENEVARD, Philippe GOSSELIN, Michel HERBILLON, Brigitte KUSTER, Valérie LACROUTE, Marc LE FUR, Constance LE GRIP, Geneviève LEVY, David LORION, Jean‑Louis MASSON, Gérard MENUEL, Frédérique MEUNIER, Guillaume PELTIER, Bernard PERRUT, Bérengère POLETTI, Frédéric REISS, Bernard REYNÈS, Vincent ROLLAND, Raphaël SCHELLENBERGER, Jean‑Marie SERMIER, Éric STRAUMANN, Jean‑Charles TAUGOURDEAU, Jean‑Louis THIÉRIOT, Isabelle VALENTIN, Patrice VERCHÈRE, Arnaud VIALA, Jean‑Pierre VIGIER, Stéphane VIRY.

La voici dans son intégralité :

EXPOSÉ DES MOTIFS

Mesdames, Messieurs,

Alors que la France entière est confinée pour éviter la propagation du covid‑19, la Chancellerie a publié au journal officiel le dimanche 29 mars un décret (n° 2020‑356) portant création d’un traitement automatisé de données à caractère personnel dénommé DataJust.

Ce décret prévoit, pour une durée de deux ans, le développement d’un algorithme destiné à permettre « l’évaluation rétrospective et prospective des politiques publiques en matière de responsabilité civile et administrative, l’élaboration d’un référentiel indicatif d’indemnisation des préjudices corporels, l’information des parties et l’aide à l’évaluation du montant de l’indemnisation à laquelle les victimes peuvent prétendre afin de favoriser un règlement amiable des litiges ».

Sur le site d’Etalab, l’équipe chargée du projet indique qu’avec Datajust, les victimes « pourraient comparer en pleine connaissance de cause les offres d’indemnisation des assureurs et les montants qu’elles pourraient obtenir devant les tribunaux ; les avocats disposeraient d’informations fiables leur permettant de conseiller leurs clients ; les magistrats auraient un outil d’aide au chiffrage des préjudices grâce à un accès facilité à des jurisprudences finement ciblées ».

Bien que présenté par la Chancellerie comme un « outil de qualité », ce projet est controversé.

Car il pose de nombreuses questions.

Va‑t‑on arriver à la disparition progressive des avocats ?

Avance‑t‑on vers une société de « juges‑robots » ?

Peut‑on laisser aux algorithmes le pouvoir de juger ?

La machine est‑elle en voie de remplacer le juge ?

Est‑ce la fin programmée des décisions individualisées ?

Va‑t‑on vers l’automatisation de la justice ?

Lorsque les avocats y recourent pour préparer leur défense ou mettre en place les bases d’une négociation, comment s’assurer que le socle jurisprudentiel sur lequel s’appuient les résultats est fiable et exhaustive ?

Quelle garantie a‑t‑on que le raisonnement qui a conduit à la prédiction judiciaire est incontestable ?

Si la justice prédictive repose sur le postulat que peut être anticipé le résultat d’une procédure grâce à la puissance de calcul de solutions informatisées agrégeant des milliers des décision de tribunaux et cours combinées avec les paramètres spécifiques d’une affaire, arrivera‑t‑on à des jugements prédéterminés en fonction du lieu ?

Peut‑on préserver l’anonymat des personnes citées dans un jugement tout en diffusant l’essentiel du contenu d’un jugement anonymisé ?

Ne court‑on pas le risque d’une réidentification des personnes simplement en croisant ces données avec d’autres sources ?

Est‑ce que toute vie « judiciaire » civile ou pénale, tout auteur ou toute victime, doit être sur la place publique d’Internet ?

Comment s’assurer que les données dérivant des décisions juridictionnelles proviennent de sources certifiées et ne puissent pas être altérées jusqu’à leur utilisation effective par l’algorithme ?

Comment prévoir l’instauration d’un barème en matière de réparation des préjudices corporels et de création d’un fichier comportant des données personnelles hors le cadre du règlement général sur la protection des données (RGPD) ?

Comment encadrer les sociétés qui contribuent à la réalisation d’une fonction régalienne qu’est la justice ?

Comment maîtriser la transparence de la méthodologie utilisée ?

Comment éviter une commercialisation des données ?

Comment mettre en place une éthique pour les « fabricants » d’algorithmes ? Est‑il prévu une autorité de régulation des algorithmes ?

Face à toutes ces interrogations, il est urgent de rappeler que l’interprétation de la règle et du droit doit rester une prérogative strictement humaine.

Le Conseil national des barreaux a déposé un recours devant le Conseil d’État.

La présidente de la conférence des bâtonniers a exprimé son mécontentement de ne pas avoir été consultée sur ce décret, publié en plein état d’urgence sanitaire.

Au vu de toutes ces interrogations, nous vous demandons, Mesdames, Messieurs, de bien vouloir adopter la proposition de résolution suivante.

PROPOSITION DE RÉSOLUTION

Article unique

L’Assemblée nationale,

Vu l’article 34‑1 de la Constitution,

Vu l’article 136 du Règlement de l’Assemblée nationale,

Considérant l’importance d’une justice individualisée ;

Considérant qu’un algorithme ne peut remplacer magistrats et juges dans les affaires de responsabilité civile ;

Considérant les risques de réidentification par croisement des données ;

Invite le Gouvernement à retirer ce décret aucunement prioritaire en ce temps de pandémie.


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Pierre-yves Gerlat

Partager l'article

Enquête Premier emploi 2022 de Telecom Paris : des ingénieurs recherchés et bien rémunérés

Télécom Paris, école de l'Institut Mines-Télécom et membre fondateur de l'Institut Polytechnique de Paris, forme des ingénieurs généralistes du numérique. Elle a récemment publié...

Canada : l’utilisation de l’intelligence artificielle reste faible au sein des entreprises selon les RH

Les ressources humaines (RH) ont un rôle important au sein des entreprises. Au Canada, l’Ordre des conseillers en ressources humaines agréés (CHRA) a mené...

Focus sur le projet de recherche européen HosmartAI « Hospital Smart development based on AI »

Le projet de recherche européen HosmartAI a pour objectif de doter l'Europe d'un système de santé fort, efficient, durable et résilient, bénéficiant des capacités...

Prédire la mortalité et la durée du séjour en unité de soins intensifs grâce au machine learning

Les unités de soins intensifs (USI) assurent une continuité des soins et une surveillance continue aux patients atteints de maladies graves. Une équipe de...
Recevoir une notification en cas d'actualité importante    OK Non merci