SIA, le service de l’intelligence artificielle, annoncé par la CNIL, a pour objectif « d'organiser la transparence et la compréhension d’une technologie bien souvent perçue comme une "boîte noire" afin d’en assurer une régulation équilibrée et permettre aux organismes, aux personnes concernées, et à la CNIL de maîtriser les risques pour la vie privée » tout en préparant l'entrée en application de l'AI Act.
Le service de l’intelligence artificielle créé au sein de la CNIL réunira 5 personnes. Composé de juristes et d’ingénieurs spécialisés, ce service sera rattaché à la direction des technologies et de l’innovation de la CNIL dont le directeur, Bertrand PAILHES, était précédemment coordonnateur national pour la stratégie d'intelligence artificielle au sein de la Direction interministérielle du numérique et du SI de l'Etat (DINSIC).
Ses missions principales seront de :
- faciliter au sein de la CNIL la compréhension du fonctionnement des systèmes d’IA, mais aussi pour les professionnels et les particuliers ;
- consolider l’expertise de la CNIL dans la connaissance et la prévention des risques pour la vie privée liées à la mise en œuvre de ces systèmes ;
- préparer l’entrée en application du règlement européen sur l’IA (en cours de discussion au niveau européen) ;
- développer les relations avec les acteurs de l’écosystème.
Un rôle transversal au sein de la CNIL
Ce nouveau service a vocation à travailler avec toutes les directions de la CNIL.
Il collaborera ainsi avec la direction en charge de l’accompagnement juridique, qui pourra aussi le solliciter pour conseiller les acteurs publics ou privés sur des projets impliquant le recours à des systèmes d’IA d’une complexité particulière.
Le SIA apportera également un support dans l’instruction de plaintes et l’adoption de mesures correctrices en cas de manquements liés à l’utilisation d’un système d’IA.
Il sera chargé de l’expertise technique de dossiers relatifs à l’IA comportant des aspects spécifiques à cette technologie. Il contribuera aux travaux du Comité européen de la protection des données (CEPD) et conduira également des projets d’expérimentation en lien avec le LINC, le laboratoire d'innovation numérique de la CNIL.
Des premiers travaux sur les bases de données d’apprentissage
Le Conseil d’État préconisait dans une étude en août 2022 de renforcer les moyens de la CNIL et de faire évoluer son rôle pour qu'elle devienne une des autorités nationales de contrôle responsables de la régulation des systèmes d’IA.
Ceux-ci nécessitent très souvent l’utilisation d’importants volumes de données, notamment personnelles, pour l’entraînement des algorithmes. La CNIL a été questionnée par différents organismes sur la légalité de certains usages lors de la constitution de bases de données, les premiers travaux permettront de préciser la position de la CNIL sur ce point et de promouvoir des bonnes pratiques, au titre des exigences posées par le RGPD, mais aussi dans la perspective de l'AI Act.
Les premières recommandations sur le sujet des bases de données d’apprentissage devraient être proposées dans les prochaines semaines. Elles seront soumises à une consultation publique permettant à tout un chacun de s’exprimer sur les outils élaborés. Les contributions seront analysées à l’issue de la consultation afin d’ajuster et de préciser ces futurs outils, qui seront ensuite publiés sur cnil.fr.
