Intelligence artificielle Europe : la commission européenne prévoit de réglementer l'utilisation des systèmes d'IA...

Pour approfondir le sujet

Skoda ouvre son laboratoire dédié à l’intelligence artificielle pour améliorer sa production de véhicules électriques

Au sein de l'Université technique d'Ostrava, en République tchèque, le constructeur automobile Skoda a inauguré un laboratoire de production par intelligence artificielle (AIM.Lab). Cette...

Recevez le numéro 5 d’ActuIA, le magazine de l’intelligence artificielle

Le numéro 5 d’ActuIA, le magazine de l’intelligence artificielle, arrive en kiosques et en version numérique le 21 septembre 2021 ! Recevez-le directement chez...

Québec : création d’une chaire de recherche en numérique de la santé pour mieux soigner les maladies rares

Mieux comprendre les maladies rares afin de mieux les diagnostiquer et les traiter efficacement constitue un défi de taille en raison de la multiplicité...

Greenly lève 3 millions de dollars pour déployer sa solution de comptabilité carbone alimentée par l’IA

Greenly, une start-up technologique spécialisée dans l'aide aux organisations à réduire leurs émissions de dioxyde de carbone, a annoncé cette semaine une levée de...

Europe : la commission européenne prévoit de réglementer l’utilisation des systèmes d’IA à “haut risque”

Dans le cadre de sa nouvelle réglementation en matière d’intelligence artificielle, l’Union Européenne envisage des règles strictes. Parmi les points abordés, on retrouve les systèmes d’IA utilisés pour des opérations de “surveillance indiscriminée” que la commission européenne souhaite interdire. Les entreprises et institutions ne respectant pas à l’avenir cette nouvelle réglementation pourraient encourir une amende à hauteur de 4% du chiffre d’affaires, plafonnée à 20 millions d’euros. 

La place des systèmes d’IA dans cette règlementation

Plusieurs médias ont affirmé avoir obtenu le projet de régulation de l’IA au sein de l’Union Européenne. Cette réglementation serait l’une des premières du genre, visant à distinguer les systèmes d’IA “bénéfiques” de ceux qui pourraient poser problème dans le futur. Ceux qui rationalisent la fabrication, modélisent les changements climatiques ou rendent le réseau énergétique plus efficace seraient les bienvenus.

Par contre, les systèmes d’IA définis par l’UE à “haut risque” comme ceux utilisés pour des opérations de “surveillance indiscriminée” seraient bannis. La proposition veut également interdire les systèmes d’IA qui causent du tort aux personnes en manipulant leur comportement, leurs opinions ou leurs décisions, exploiter ou cibler les vulnérabilités des personnes, et pour la surveillance de masse. En cas d’utilisation non conforme de ce genre de système par des entreprises, une amende pouvant aller jusqu’à 4% du chiffre d’affaires (plafonné à 20 millions d’euros) sera encourue.

La question se pose néanmoins pour d’autres systèmes comme les algorithmes utilisés pour scanner les curriculums vitae, aider les juges à prendre des décisions, évaluer la solvabilité ou encore régulariser des demandes d’asile et des visas qui sont pourtant considérés comme des systèmes d’IA à “haut risque”. Ces cas feront l’objet d’un examen plus approfondi de la commission européenne, qui souhaite instaurer des tests de conformité aux normes européennes avant lancement de produits sur le marché.

Des exceptions possibles

La commission européenne aurait toutefois envisagé de mettre en place dans sa réglementation, des exceptions vis-à-vis des systèmes d’IA à “haut risque”. En effet, les autorités compétentes telles que les agents des forces de l’ordre pourraient utiliser ces technologies si celles-ci combattent des crimes graves. Par exemple, celles utilisées pour l’identification biométrique à distance -comme la reconnaissance faciale- dans les lieux publics pourraient être autorisées si leurs utilisations sont limitées dans le temps et que leur zone d’action géographique soit restreinte au lieu nécessaire à leurs applications.

L’une des priorités de la commission européenne serait que l’ensemble des données pouvant être recueillies dans le cadre de ces exceptions n’intègrent aucun biais intentionnel ou involontaire qui pourrait conduire de possibles discriminations. En ce sens, un comité européen de l’IA sera créé : il comportera un représentant par état membre de l’UE et un représentant de la commission européenne. Ce conseil supervisera l’application à la lettre de cette nouvelle réglementation et pourra émettre des recommandations en ce qui concerne la liste des systèmes d’IA bannis ou acceptés.

Une volonté européenne à contre-courant des intentions états-uniennes

Les entreprises américaines dont certaines filiales ou bases se situent en Europe seront probablement soumises à ces nouvelles règles, alors que les pratiques de surveillance des entreprises étaient déjà l’un des principaux points de friction en matière de collaboration transatlantique.

La proposition devrait être présentée le 21 avril prochain par Margrethe Vestager, vice-présidente exécutive de la commission pour le numérique. Elle fera suite aux premières analyses émises l’année dernière par la commission sur l’IA qui avait évoqué les bases d’une possible réglementation contre les systèmes d’IA à “haut risque”.

Suite à une lettre multipartie de 116 députés européens faisant apparaitre les risques potentiels pour les droits fondamentaux posés par les technologies d’IA à “haut risque”, la présidente de la commission européenne, Ursula von der Leyen avait assuré aux eurodéputés que la commission irait plus loin en ce sens. Cette nouvelle réglementation est donc la réponse à ces exigences.

 


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Zacharie Tazrout

Partager l'article

Skoda ouvre son laboratoire dédié à l’intelligence artificielle pour améliorer sa production de véhicules électriques

Au sein de l'Université technique d'Ostrava, en République tchèque, le constructeur automobile Skoda a inauguré un laboratoire de production par intelligence artificielle (AIM.Lab). Cette...

Recevez le numéro 5 d’ActuIA, le magazine de l’intelligence artificielle

Le numéro 5 d’ActuIA, le magazine de l’intelligence artificielle, arrive en kiosques et en version numérique le 21 septembre 2021 ! Recevez-le directement chez...

Québec : création d’une chaire de recherche en numérique de la santé pour mieux soigner les maladies rares

Mieux comprendre les maladies rares afin de mieux les diagnostiquer et les traiter efficacement constitue un défi de taille en raison de la multiplicité...

Greenly lève 3 millions de dollars pour déployer sa solution de comptabilité carbone alimentée par l’IA

Greenly, une start-up technologique spécialisée dans l'aide aux organisations à réduire leurs émissions de dioxyde de carbone, a annoncé cette semaine une levée de...