En mai 2024, la France était l'un des pays signataires de la Déclaration de Séoul pour une IA sûre, novatrice et inclusive. Dans le prolongement de cet engagement, Clara Chappaz, ministre déléguée chargée de l’Intelligence artificielle et du Numérique, a annoncé la création de l'Institut national pour l'évaluation et la sécurité de l'intelligence artificielle (INESIA).

Cette initiative vise à renforcer la confiance du public dans les technologies d'IA en France, tout en soutenant l'innovation dans ce domaine stratégique.

Structurer la recherche française en matière d'évaluation

Plutôt que de créer une nouvelle entité juridique, l'INESIA coordonnera les efforts des principaux acteurs nationaux de l'évaluation et de la sécurité de l'IA, notamment l'Agence nationale de la sécurité des systèmes d'information (ANSSI), l'Institut national de recherche en sciences et technologies du numérique (Inria), le Laboratoire national de métrologie et d'essais (LNE) et le Pôle d'expertise de la régulation numérique (PEReN). Copiloté par le Secrétariat général de la défense et de la sécurité nationale (SGDSN) et la Direction générale des Entreprises (DGE), l'Institut n'aura pas de pouvoirs contraignants, mais servira de plateforme de collaboration entre ces institutions existantes.

Elles collaboreront ainsi à l'analyse des risques systémiques liés à l'IA dans le domaine de la sécurité nationale, le soutien à la mise en œuvre de la régulation de l'IA et l'évaluation de la performance et de la fiabilité des modèles d'IA. Leur approche scientifique et la diffusion de bonnes pratiques garantiront que l'IA soit développée et utilisée de manière sécurisée et fiable, en particulier dans des secteurs sensibles tels que la médecine, l'éducation, l'industrie et l'information.

INESIA permettra à la France de jouer un rôle actif au sein du réseau international des AI Safety Institutes, aux côtés de nations telles que le Canada, la Corée du Sud, les États-Unis, le Japon, le Kenya, Singapour et le Royaume-Uni. Elle soutiendra ainsi son ambition : faire de l’IA une technologie de confiance, au service de l’innovation et de la souveraineté nationale.