LLaMandement, le LLM open source du gouvernement français

Esther Mac Namara, Déléguée à la transformation numérique de la DGFIP, a annoncé récemment la publication de LlaMandement, un LLM développé par la DGIFP pour générer des résumés neutres des amendements parlementaires, soulageant ainsi les agents publics qui doivent analyser et traiter un nombre croissant d’amendements.

Les LLMs, grâce à leur capacité à effectuer des tâches complexes de traitement du langage, ont ouvert de nouveaux horizons pour l’innovation au sein de l’administration française. Celle-ci s’en est rapidement emparée et 1000 agents de la CNAV (Caisse Nationale d’Assurance Vieillesse), Pôle Emploi ou l’Assurance Maladie ont testé avec succès l’an passé un modèle adapté par la start-up française AlloBrain, du LLM Claude, d’Anthropic. En novembre dernier, le département Etalab de la direction interministérielle du numérique (DINUM), en charge de la coordination de la stratégie de l’État en matière de données, présentait son outil d’IA générative Albert.

La Délégation à la Transformation Numérique (DTNUM), qui joue un rôle essentiel dans la modernisation des services publics en France, a ciblé le traitement des amendements pour un projet impliquant des LLMs. LLaMandement vise ainsi à automatiser la distribution des amendements entre différentes expertises ministérielles, à rechercher des réponses précédentes à des situations similaires et à formuler une synthèse claire, précise et neutre d’un amendement.

L’examen d’un projet de loi implique un débat et un vote sur les amendements (modifications du texte proposées par le Parlement ou le Gouvernement), un processus dans lequel les agents administratifs jouent un rôle central. Ils doivent analyser et traiter un nombre croissant d’amendements, jusqu’à des milliers pour un projet de loi, ce qui limite la durée maximale de leur gestion, affectant ainsi l’efficacité, la précision et la fiabilité des analyses nécessaires à l’élaboration des lois.

Depuis 2020, les agents administratifs peuvent travailler de manière plus efficace grâce au Système de Gestion Digitale Interministérielle des Amendements Législatifs (SIGNALE) qui facilite la rédaction de notes de synthèse et la création de tableaux pour la préparation des réunions interministérielles concernant les textes législatifs.

Le LLM LLaMandement

Le modèle LLaMandement est le fruit des travaux des datascientists et des spécialistes de la loi de la DGFIP, la DILA (Direction de l’Information Légale et Administrative) et la DINUM.

Basé sur le modèle open source LLaMA 2 de Meta, il a été adapté au domaine législatif grâce à la technique de l’adaptation de rang faible (LORA) et été entraîné sur un ensemble de données composé de plus de 15 000 paires d’amendements et de résumés issus de la plateforme SIGNALE.

Les qualités éthiques des résumés automatiques ont été évaluées sur le jeu de données Bias in Open-ended Language Generation, le modèle LLaMandementa obtenu des scores très satisfaisants.

Il a également atteint un niveau de performance proche de celui des rédacteurs humains, tout en étant plus rapide et plus économe en ressources. Il a démontré sa capacité à traiter et à synthétiser des textes législatifs complexes et variés, provenant de différents ministères, à améliorer l’efficacité opérationnelle des agents tout en garantissant des résumés neutres et précis, essentiels pour le processus législatif.

Pour que d’autres s’appuient sur ses travaux, les chercheurs publient :

Références de l’article :

“LLaMandement : Large Language Models for Summarization of French Legislative Proposals” arXiv, 29 janvier, https://doi.org/10.48550/arXiv.2401.16182

Auteurs : Joseph Gesnouin 1, Yannis Tannier 1, Christophe Gomes Da Silva 1, Hatim Tapory 1, Camille Brier 1, Hugo Simon 1, Raphaël Rozenberg 1, Hermann Woehrel 1, Mehdi El Yakaabi 1, Thomas Binder 1, Guillaume Marie 1, Emilie Caron1, Mathile Nogueira 1, Thomas Fontas 1, Laure Puydebois 1, Marie Theophile 1, Stéphane Morandi 1, Maël Petit 1, David Creissac 1, Pauline Ennouchy 1, Elise Valetoux 1, Céline Visade 2, Severine Balloux 2, Emmanuel Cortes 2, Pierre-Etienne Devineau 3, Ulrich Tan 3, Esther Mac Namara 1, Su Yang 1

1 : French Ministry of Economics and Finance – Directorate General of Public Finances
2 : General Secretariat of the French Government – Legal and Administrative Information Directorate
3 : French Interministerial Digital Department

Recevez gratuitement l'actualité de l'intelligence artificielle

Suivez la Newsletter de référence sur l'intelligence artificielle (+ de 18 000 membres), quotidienne et 100% gratuite.


Tout comme vous, nous n'apprécions pas le spam. Vos coordonnées ne seront transmises à aucun tiers.

1ère Marketplace de l'IA et de la transformation numérique vous recommande :
KAÏSSA par GREENTROPISM

Quick overview : kaïssa is a web-based ai platform for management and processing of spectral data (from spot spectrometers). proven and suitable for...

 
Partager l'article
Offre exclusive : 1 an d'abonnement au magazine ActuIA + Le guide pratique d'adoption de l'IA en entreprise pour seulement 27,60€ Boutique ActuIA Pour tout abonnement à ActuIA, recevez en cadeau le Guide Pratique d'Adoption de l'IA en Entreprise, d'une valeur de 23€ !
intelligence artificielle
À PROPOS DE NOUS
Le portail francophone consacré à l'intelligence artificielle et à la datascience, à destination des chercheurs, étudiants, professionnels et passionnés.