Intelligence artificielle Europe : la commission européenne prévoit de réglementer l'utilisation des systèmes d'IA...

Pour approfondir le sujet

Sur le même thème :

Réglementation européenne sur l’IA : Le CEPD exprime sa réserve sur la reconnaissance faciale

La semaine dernière, la Commission européenne dévoilait sa réglementation sur l'usage de l'intelligence artificielle au sein des entreprises et institutions européennes. Le Contrôleur Européen...

Reclaim Your Face : l’initiative citoyenne européenne contre la surveillance des données biométriques

Les 3 et 4 juin 2021 s'est tenue la dixième journée de l'initiative citoyenne européenne, un évènement totalement digital cette année. Organisée par le...

Systèmes de reconnaissance automatisée dans les espaces publics : le CEPD et l’EDPB demandent leur interdiction

En avril dernier, le Contrôleur européen de la Protection des Données (CEPD) exprimait sa réserve sur la reconnaissance faciale, en lien avec la réglementation...

RGPD : La Commission Européenne publie son rapport d’évaluation sur les outils de protection des données

Le règlement général sur la protection des données (RGPD) prévoyait que la Commission présente un premier rapport sur l'évaluation et le réexamen de ce...

Europe : la commission européenne prévoit de réglementer l’utilisation des systèmes d’IA à “haut risque”

Dans le cadre de sa nouvelle réglementation en matière d’intelligence artificielle, l’Union Européenne envisage des règles strictes. Parmi les points abordés, on retrouve les systèmes d’IA utilisés pour des opérations de “surveillance indiscriminée” que la commission européenne souhaite interdire. Les entreprises et institutions ne respectant pas à l’avenir cette nouvelle réglementation pourraient encourir une amende à hauteur de 4% du chiffre d’affaires, plafonnée à 20 millions d’euros. 

La place des systèmes d’IA dans cette règlementation

Plusieurs médias ont affirmé avoir obtenu le projet de régulation de l’IA au sein de l’Union Européenne. Cette réglementation serait l’une des premières du genre, visant à distinguer les systèmes d’IA “bénéfiques” de ceux qui pourraient poser problème dans le futur. Ceux qui rationalisent la fabrication, modélisent les changements climatiques ou rendent le réseau énergétique plus efficace seraient les bienvenus.

Par contre, les systèmes d’IA définis par l’UE à “haut risque” comme ceux utilisés pour des opérations de “surveillance indiscriminée” seraient bannis. La proposition veut également interdire les systèmes d’IA qui causent du tort aux personnes en manipulant leur comportement, leurs opinions ou leurs décisions, exploiter ou cibler les vulnérabilités des personnes, et pour la surveillance de masse. En cas d’utilisation non conforme de ce genre de système par des entreprises, une amende pouvant aller jusqu’à 4% du chiffre d’affaires (plafonné à 20 millions d’euros) sera encourue.

La question se pose néanmoins pour d’autres systèmes comme les algorithmes utilisés pour scanner les curriculums vitae, aider les juges à prendre des décisions, évaluer la solvabilité ou encore régulariser des demandes d’asile et des visas qui sont pourtant considérés comme des systèmes d’IA à “haut risque”. Ces cas feront l’objet d’un examen plus approfondi de la commission européenne, qui souhaite instaurer des tests de conformité aux normes européennes avant lancement de produits sur le marché.

Des exceptions possibles

La commission européenne aurait toutefois envisagé de mettre en place dans sa réglementation, des exceptions vis-à-vis des systèmes d’IA à “haut risque”. En effet, les autorités compétentes telles que les agents des forces de l’ordre pourraient utiliser ces technologies si celles-ci combattent des crimes graves. Par exemple, celles utilisées pour l’identification biométrique à distance -comme la reconnaissance faciale- dans les lieux publics pourraient être autorisées si leurs utilisations sont limitées dans le temps et que leur zone d’action géographique soit restreinte au lieu nécessaire à leurs applications.

L’une des priorités de la commission européenne serait que l’ensemble des données pouvant être recueillies dans le cadre de ces exceptions n’intègrent aucun biais intentionnel ou involontaire qui pourrait conduire de possibles discriminations. En ce sens, un comité européen de l’IA sera créé : il comportera un représentant par état membre de l’UE et un représentant de la commission européenne. Ce conseil supervisera l’application à la lettre de cette nouvelle réglementation et pourra émettre des recommandations en ce qui concerne la liste des systèmes d’IA bannis ou acceptés.

Une volonté européenne à contre-courant des intentions états-uniennes

Les entreprises américaines dont certaines filiales ou bases se situent en Europe seront probablement soumises à ces nouvelles règles, alors que les pratiques de surveillance des entreprises étaient déjà l’un des principaux points de friction en matière de collaboration transatlantique.

La proposition devrait être présentée le 21 avril prochain par Margrethe Vestager, vice-présidente exécutive de la commission pour le numérique. Elle fera suite aux premières analyses émises l’année dernière par la commission sur l’IA qui avait évoqué les bases d’une possible réglementation contre les systèmes d’IA à “haut risque”.

Suite à une lettre multipartie de 116 députés européens faisant apparaitre les risques potentiels pour les droits fondamentaux posés par les technologies d’IA à “haut risque”, la présidente de la commission européenne, Ursula von der Leyen avait assuré aux eurodéputés que la commission irait plus loin en ce sens. Cette nouvelle réglementation est donc la réponse à ces exigences.

 


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Zacharie Tazrout

Partager l'article

Hewlett Packard Enterprise annonce la construction de sa première usine dédiée au HPC et à l’IA en Europe

Hewlett Packard Enterprise (HPE) a annoncé, le 18 mai, la construction de sa première usine en Europe destinée à soutenir le développement de supercalculateurs...

Intervention de Rémi Bardenet, chercheur en IA, ce 19 mai lors du Colloquium Polaris

La communauté scientifique des chercheurs en informatique et automatique de Lille, en forte croissance ces dernières années, s’est fédérée autour de la constitution du...

IA et Oncologie : l’IRT Saint Exupéry et l’IUCT-Oncopole collaborent pour faire avancer la recherche en cancérologie

Le 17 mai dernier, deux instituts toulousains, l'IRT Saint Exupéry et l’IUCT-Oncopole, centre d’expertise européen en oncologie, ont conclu un partenariat centré sur l’intelligence...

SystemX crée les « Tech Labs @SystemX » pour accélérer la valorisation et le transfert technologique de ses actifs

SystemX, l’Institut de Recherche Technologique (IRT) dédié à l’ingénierie numérique des systèmes, a annoncé le 16 mai dernier, la mise en place de «...
Recevoir une notification en cas d'actualité importante    OK Non merci