Intelligence artificielle Datajust : Une proposition de résolution visant à encadrer la justice prédictive...

Pour approfondir le sujet

Sur le même thème :

Proptech : Partenariat entre la start-up Kize et Acheter-Louer.fr autour de leur solution de prédiction des prix de l’immobilier

Prédire les prix de l'immobilier est au coeur de l'algorithme d'intelligence artificielle développé par la Proptech Kize. La jeune pousse a annoncé avoir signé...

Quelles utilisations pour l’IA dans les systèmes judiciaires européens ? – Les recommandations de la CEPEJ

Le Conseil de l’Europe a annoncé ce jour l'adoption de la Charte éthique européenne sur l’utilisation de l’intelligence artificielle dans les systèmes judiciaires. Prenant...

Le CNES et Clemessy développent un simulateur de systèmes fluidiques à l’aide de réseaux de neurones artificiels

Le  Centre national d’études spatiales (CNES) et Clemessy collaborent actuellement au développement d'un simulateur de systèmes fluidiques, à l’aide de réseaux de neurones artificiels....

La justice dite « prédictive » en matière judiciaire : prérequis, risques et attentes – la réflexion en cours en France

En septembre dernier, la CEPEJ organisait à Riga une conférence intitulée « L’intelligence artificielle au service du pouvoir judiciaire ». L'occasion de présenter des...

Datajust : Une proposition de résolution visant à encadrer la justice prédictive et empêcher que l’intelligence artificielle prenne les décisions a été déposée

Suite à la publication du décret n° 2020-356, 27 mars 2020, JO 29 mars, permettant la mise en place d’un algorithme Datajust, recensant les montants d’indemnisation des préjudices corporels dans les décisions de justice (judiciaire et administrative), une proposition de résolution a été déposée ce 11 mai par Patrick Hetzel. Elle vise à encadrer la justice prédictive et empêcher que l’intelligence artificielle prenne les décisions de justice en lieu et place des juges.

La proposition a été déposée à l’Assemblé nationale ce 11 mai par Patrick HETZEL, Nathalie BASSIRE, Thibault BAZIN, Valérie BEAUVAIS, Émilie BONNIVARD, Ian BOUCARD, Xavier BRETON, Bernard BROCHAND, Fabrice BRUN, Josiane CORNELOUP, Marie‑Christine DALLOZ, Jean‑Pierre DOOR, Daniel FASQUELLE, Nicolas FORISSIER, Annie GENEVARD, Philippe GOSSELIN, Michel HERBILLON, Brigitte KUSTER, Valérie LACROUTE, Marc LE FUR, Constance LE GRIP, Geneviève LEVY, David LORION, Jean‑Louis MASSON, Gérard MENUEL, Frédérique MEUNIER, Guillaume PELTIER, Bernard PERRUT, Bérengère POLETTI, Frédéric REISS, Bernard REYNÈS, Vincent ROLLAND, Raphaël SCHELLENBERGER, Jean‑Marie SERMIER, Éric STRAUMANN, Jean‑Charles TAUGOURDEAU, Jean‑Louis THIÉRIOT, Isabelle VALENTIN, Patrice VERCHÈRE, Arnaud VIALA, Jean‑Pierre VIGIER, Stéphane VIRY.

La voici dans son intégralité :

EXPOSÉ DES MOTIFS

Mesdames, Messieurs,

Alors que la France entière est confinée pour éviter la propagation du covid‑19, la Chancellerie a publié au journal officiel le dimanche 29 mars un décret (n° 2020‑356) portant création d’un traitement automatisé de données à caractère personnel dénommé DataJust.

Ce décret prévoit, pour une durée de deux ans, le développement d’un algorithme destiné à permettre « l’évaluation rétrospective et prospective des politiques publiques en matière de responsabilité civile et administrative, l’élaboration d’un référentiel indicatif d’indemnisation des préjudices corporels, l’information des parties et l’aide à l’évaluation du montant de l’indemnisation à laquelle les victimes peuvent prétendre afin de favoriser un règlement amiable des litiges ».

Sur le site d’Etalab, l’équipe chargée du projet indique qu’avec Datajust, les victimes « pourraient comparer en pleine connaissance de cause les offres d’indemnisation des assureurs et les montants qu’elles pourraient obtenir devant les tribunaux ; les avocats disposeraient d’informations fiables leur permettant de conseiller leurs clients ; les magistrats auraient un outil d’aide au chiffrage des préjudices grâce à un accès facilité à des jurisprudences finement ciblées ».

Bien que présenté par la Chancellerie comme un « outil de qualité », ce projet est controversé.

Car il pose de nombreuses questions.

Va‑t‑on arriver à la disparition progressive des avocats ?

Avance‑t‑on vers une société de « juges‑robots » ?

Peut‑on laisser aux algorithmes le pouvoir de juger ?

La machine est‑elle en voie de remplacer le juge ?

Est‑ce la fin programmée des décisions individualisées ?

Va‑t‑on vers l’automatisation de la justice ?

Lorsque les avocats y recourent pour préparer leur défense ou mettre en place les bases d’une négociation, comment s’assurer que le socle jurisprudentiel sur lequel s’appuient les résultats est fiable et exhaustive ?

Quelle garantie a‑t‑on que le raisonnement qui a conduit à la prédiction judiciaire est incontestable ?

Si la justice prédictive repose sur le postulat que peut être anticipé le résultat d’une procédure grâce à la puissance de calcul de solutions informatisées agrégeant des milliers des décision de tribunaux et cours combinées avec les paramètres spécifiques d’une affaire, arrivera‑t‑on à des jugements prédéterminés en fonction du lieu ?

Peut‑on préserver l’anonymat des personnes citées dans un jugement tout en diffusant l’essentiel du contenu d’un jugement anonymisé ?

Ne court‑on pas le risque d’une réidentification des personnes simplement en croisant ces données avec d’autres sources ?

Est‑ce que toute vie « judiciaire » civile ou pénale, tout auteur ou toute victime, doit être sur la place publique d’Internet ?

Comment s’assurer que les données dérivant des décisions juridictionnelles proviennent de sources certifiées et ne puissent pas être altérées jusqu’à leur utilisation effective par l’algorithme ?

Comment prévoir l’instauration d’un barème en matière de réparation des préjudices corporels et de création d’un fichier comportant des données personnelles hors le cadre du règlement général sur la protection des données (RGPD) ?

Comment encadrer les sociétés qui contribuent à la réalisation d’une fonction régalienne qu’est la justice ?

Comment maîtriser la transparence de la méthodologie utilisée ?

Comment éviter une commercialisation des données ?

Comment mettre en place une éthique pour les « fabricants » d’algorithmes ? Est‑il prévu une autorité de régulation des algorithmes ?

Face à toutes ces interrogations, il est urgent de rappeler que l’interprétation de la règle et du droit doit rester une prérogative strictement humaine.

Le Conseil national des barreaux a déposé un recours devant le Conseil d’État.

La présidente de la conférence des bâtonniers a exprimé son mécontentement de ne pas avoir été consultée sur ce décret, publié en plein état d’urgence sanitaire.

Au vu de toutes ces interrogations, nous vous demandons, Mesdames, Messieurs, de bien vouloir adopter la proposition de résolution suivante.

PROPOSITION DE RÉSOLUTION

Article unique

L’Assemblée nationale,

Vu l’article 34‑1 de la Constitution,

Vu l’article 136 du Règlement de l’Assemblée nationale,

Considérant l’importance d’une justice individualisée ;

Considérant qu’un algorithme ne peut remplacer magistrats et juges dans les affaires de responsabilité civile ;

Considérant les risques de réidentification par croisement des données ;

Invite le Gouvernement à retirer ce décret aucunement prioritaire en ce temps de pandémie.


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Pierre-yves Gerlat

Partager l'article

Levée de fonds de 6 millions d’euros de la fintech lyonnaise Mon Petit Placement

Mon Petit Placement, start-up lancée en 2017, a bouclé en ce mois de novembre sa troisième levée de fonds pour un montant de 6...

Lutte contre la cybercriminalité : l’exemple du défi IA lancé par le gouvernement canadien aux petites entreprises

Comme les autres organismes de police canadiens, la Gendarmerie royale du Canada (GRC) peine à accéder aux données chiffrées saisies lors d'enquêtes criminelles. C'est...

Continuity annonce une levée de fonds de 5 millions d’euros auprès d’Elaia Partners, Bpifrance et Kamet Ventures

Continuity a levé 5 millions d’euros en Seed auprès d'Elaia Partners, Bpifrance et Kamet Ventures a annoncé la jeune pousse cette semaine. La start-up...

ADAM9, un gène potentiellement impliqué dans les formes graves de Covid-19 identifié par l’intelligence artificielle

Pourquoi certains patients atteints de Covid-19 sont-ils asymptomatiques alors que d'autres développent des formes graves, notamment le SDRA (syndrome de détresse respiratoire aigüe) ?...
Recevoir une notification en cas d'actualité importante    OK Non merci