Intelligence artificielle La CNIL lance une consultation publique sur l'usage des caméras intelligentes dans...

Pour approfondir le sujet

  • Plus d'actualités sur
  • CNIL
Sur le même thème :

Le colloque DRIAS évoquera les responsabilités éthiques, juridiques et techniques des outils d’IA en santé

Les 21 et le 22 juin prochains aura lieu le Colloque DRIAS (Droit, IA et Santé), une initiative coorganisée par l'Institut de Recherche en...

Podcast : L’université Paris Dauphine-PSL dévoile le premier épisode de « EX MACHINA, l’ère des algorithmes »

"IA : qui sont les humains derrière la machine ?", c'est le titre du tout premier podcast d'EX MACHINE, lancé par l'université Paris Dauphine-PSL....

Mettre l’intelligence artificielle au service des forces : au coeur du projet européen STARTLIGHT

Tous les pays européens sont concernés par le crime et le terrorisme. Pour mieux lutter contre ces défis de sécurité, 18 pays européens persuadés...

Le Ministère de la Justice abandonne le développement de DataJust, l’algorithme devant aider au calcul de l’indemnisation des préjudices corporels

Selon Acteurs Publics, le Ministère de la Justice aurait décidé l'abandon du développement de DataJust jeudi 13 janvier. L'objectif de ce projet était la...

La CNIL lance une consultation publique sur l’usage des caméras intelligentes dans les espaces publics

Devant la recrudescence des caméras intelligentes ou augmentées dans les espaces publics et les problèmes éthiques ou juridiques que ces dispositifs posent, la CNIL, après différents travaux sur la question, a publié un «Projet de position relatif aux conditions de déploiement des caméras dites “intelligentes” ou “augmentées” dans les espaces publics ». Ce document publié le 14 janvier fait l’objet d’une consultation publique jusqu’au 11 mars prochain.

La Commission Nationale de l’Informatique et des Libertés (CNIL) a été créée par la loi Informatique et Libertés du 6 janvier 1978. Sa mission est de de veiller à la protection des données personnelles contenues dans les fichiers et traitements informatiques ou papiers, aussi bien publics que privés. Elle a un rôle d’alerte, de conseil et d’information vers tous les publics mais dispose également d’un pouvoir de contrôle et de sanction.

Le rôle d’alerte

La CNIL a tout d’abord souligné, en 2017, dans le cadre de ses travaux « études, innovations et prospectives », les problématiques soulevées par le développement des « villes surveillées » et les enjeux éthiques des traitements algorithmiques et de l’intelligence artificielle. Puis, en 2018, elle constatait que le cadre juridique qui entourait certaines technologies (caméras fixes, caméras-piétons) et certaines finalités (visionnage « simple » d’images), n’apportait en revanche pas nécessairement de réponse appropriée pour les caméras intelligentes. En 2019, elle a apporté sa contribution au débat sur la reconnaissance faciale et l’année suivante, elle appelait à la vigilance quant à l’utilisation des caméras techniques et des caméras thermiques dans le cadre de la crise sanitaire. Elle considère que «De tels dispositifs ne sont en aucun cas un simple “prolongement” technique des caméras existantes. Ils modifient leur nature même par leur capacité de détection et d’analyse automatisée. Ils posent, par conséquent, des questions éthiques et juridiques nouvelles.»

Objectifs du projet de position

Face à l’absence d’encadrement spécifique de ces dispositifs, la CNIL souhaite exposer sa compréhension, ses réflexions et analyses sur le sujet, d’un point de vue éthique, technique (portrait de la technologie, de ses cas d’usage et des risques qui s’y attachent) et juridique (cadre applicable tel qu’il existe actuellement : qu’est-il possible de faire à droit constant, dans quelles conditions et avec quelles garanties ?).

La position de la CNIL poursuit trois objectifs :

  • Présenter de manière pratique et concrète ce que sont les outils de vidéo « intelligente » ou « augmentée » et leur variété d’usages. Le terme retenu par la CNIL de vidéo « augmentée » désigne des dispositifs vidéo auxquels sont associés des traitements algorithmiques mis en œuvre par des logiciels, permettant une analyse automatique, en temps réel et en continu, des images captées par la caméra. Il s’agit de la vision par ordinateur (computer vision). Elle considère que même si ces algorithmes s’intègrent à des caméras vidéo traditionnelles, le traitement de données qu’ils opèrent change la nature et la portée de la vidéo. En conséquence, elle estime nécessaire de définir précisément ces notions et les usages potentiels, afin d’être en mesure d’en appréhender les risques.
    Après des cas d’usages publics et privés, elle présente le marché de la vidéo augmentée, souligne le fait qu’il est essentiellement tenu par des acteurs étrangers. D’autre part, elle rappelle que le gain en termes de coût de réductions des effectifs (12 000 personnes sont actuellement employées dans ce secteur) est la réelle motivation du déploiement de cette technologie.
    L’autre enjeu est un enjeu d’innovation industriel. Des solutions de vidéo « augmentée » sont en train d’être développées par des PME ou ETI du secteur de la sécurité, distributeurs ou intégrateurs, notamment dans le domaine du commerce de détail, soit des start-ups qui conçoivent des algorithmes d’intelligence artificielle, notamment dans le domaine de la mobilité et des smart cities.
  • Mettre en avant les enjeux éthiques et sociétaux de cette technologie et les risques gradués pour les droits et libertés des personnes.
    La CNIL considère que les dispositifs de vidéo augmentée peuvent entraîner un risque de surveillance généralisée et que le traitement de données personnelles, voire sensibles, présentent un risque pour les personnes concernées.
    L’importance et l’effectivité de ces risques doivent être précisément évaluées afin d’établir les garanties nécessaires et de poser des limites à certains usages de ces dispositifs.
  • Soumettre à consultation une interprétation du cadre juridique applicable à ces dispositifs en fonction de leurs objectifs, de leurs conditions de mise en œuvre et des risques qu’ils impliquent.
    Les données obtenues par les caméras intelligentes, en particulier des images des personnes, leur utilisation et les traitements de données qu’ils impliquent doivent respecter l’ensemble de la réglementation applicable en matière de données personnelles (c’est-à-dire le RGPD et la loi Informatique et Libertés).

La CNIL soumet à consultation son interprétation en matière de vidéo augmentée et évoque également les possibilités de textes (législatifs ou réglementaires) qui pourraient encadrer certains usages.

Tout un chacun pourra prendre part à cette consultation qui durera 8 semaines et prendra fin le 11 mars 2022 inclus. À l’issue de celle-ci, la CNIL fera connaître sa position sur ses technologies et la façon dont le RGPD et la loi Informatique et Libertés s’appliquent à elles.

 
Thomas Calvi

Partager l'article

Découvrez ActuIA n°8, le nouveau numéro du magazine de l’intelligence artificielle

L’été est bien là et c’est déjà l’heure du nouveau numéro d’ActuIA, votre magazine de l’intelligence artificielle ! Pour ce n°8 d’ActuIA, disponible dès...

Victor Schmidt, doctorant sous la direction de Yoshua Bengio, est le lauréat de la 6ème bourse Antidote en TAL

Druide informatique a annoncé fin mai la nomination du lauréat de la 6e Bourse Antidote en traitement automatique de la langue (TAL). Victor Schmidt,...

Retour sur le lauréat du Prix CNIL-INRIA pour la protection de la vie privée

Fin mai, François Pelligrini et Mathieu Cunche, co-présidents du Jury du Prix CNIL-Inria, ont remis le prix pour la protection de la vie privée...

La Lufthansa s’appuie sur le logiciel « Virtual Aviation Training » de NMY pour former ses équipes de cabine

La pandémie a fortement impacté les compagnies aériennes. Depuis la levée des restrictions sanitaires, elles doivent affronter un autre problème : malgré une forte...
Recevoir une notification en cas d'actualité importante    OK Non merci