Actualité Vers un ensemble de droits solides pour garantir une utilisation équitable et...

Pour approfondir le sujet

Le Québec mise sur l’intelligence artificielle pour freiner l’exode des cerveaux

Le domaine de l'intelligence artificielle est en plein développement et plusieurs pays, dont le Canada, n'hésitent pas à y investir fortement. Ce lundi 15...

TensorFlow sort en version 1.5

La version 1.5 de TensorFlow est sortie le 26 janvier 2018. Cette nouvelle version permet notamment un nouveau mode de développement simplifié, en activant...

TensorFlow 1.4 vient de sortir

La version 1.4 de TensorFlow vient de sortir. Cette nouvelle version officielle, dont la version Release Candidate est sorte il y a un peu...

Sortie de la version release candidate de TensorFlow 1.3

La version Tensorflow 1.3 RC vient d'être diffusée. Voici un petit récapitulatif des différents changements apportés par cette nouvelle version de la librairie de...

Vers un ensemble de droits solides pour garantir une utilisation équitable et sûre de l’intelligence artificielle et de la prise de décision automatisée par le consommateur ?

Les institutions européennes travaillent depuis plusieurs années maintenant sur des questions liées à l’intelligence artificielle et à ses utilisations. La semaine dernière, la commission du marché intérieur et de la protection des consommateurs a adopté une résolution abordant plusieurs défis découlant du développement rapide des technologies de l’intelligence artificielle et de la prise de décision automatisée. Leurs objectifs sont complémentaires : mettre à jour les règles de sécurité et de responsabilité de l’UE au vu des nouveaux produits reposant sur l’IA, utiliser des algorithmes non biaisés et des structures de contrôle et garantir que l’homme reste au final le maitre de la situation.

Les députés veulent un ensemble de droits solides afin de protéger les consommateurs dans le contexte de l’intelligence artificielle et de la prise de décision automatisée.
La commission du marché intérieur et de la protection des consommateurs a ainsi adopté  une résolution lié au développement rapide des technologies IA et de prise de décision automatisée (ADM).

La présidente de la commission du marché intérieur et de la protection des consommateurs, Petra De Sutter (Verts/ALE, BE), a déclaré:

“La technologie de l’intelligence artificielle et de la prise de décision automatisée progresse rapidement. Aujourd’hui, la commission parlementaire a salué le potentiel de ces avancées, tout en soulignant trois questions importantes qui devront être soulevées.

Nous devons veiller à ce que la protection et la confiance des consommateurs soient garanties, que les règles de l’UE sur la sécurité et la responsabilité des produits et des services soient adaptées à l’ère numérique, et que les ensembles de données utilisés dans les systèmes de prise de décision automatisée soient de qualité et non biaisés.”

Selon les députés, lorsque les consommateurs interagissent avec un système ADM, ils devraient être correctement informés de son fonctionnement, de la façon de joindre un humain détenant le pouvoir de décision, et de la manière dont les décisions du système peuvent être vérifiées et corrigées, déclare la commission parlementaire.

Ces systèmes devraient seulement utiliser des ensembles de données de haute qualité et non biaisées, ainsi que des algorithmes explicables et non biaisés, en vue de renforcer la confiance et l’acceptation des consommateurs, souligne la résolution. Des structures de contrôle devraient être mises en place afin de remédier aux éventuelles erreurs dans les décisions automatisées. Par ailleurs, il devrait être possible pour les consommateurs de demander un contrôle humain et une réparation pour les décisions automatisées qui sont définitives et permanentes.

“L’homme doit toujours être responsable en dernier ressort de la prise de décision” et doit pouvoir rejeter les décisions prises par des processus ADM, en particulier pour tout ce qui est lié aux professions dans le domaine médical, juridique et comptable, précisent les députés.

Adapter les règles sur la responsabilité aux nouvelles technologies

Les produits reposant sur l’IA peuvent évoluer et agir d’une façon qui n’avait pas été envisagée lors de leur mise sur le marché. Les députés exhortent la Commission européenne à présenter des propositions pour adapter la législation européenne sur la sécurité des produits (par exemple les directives sur les machines et la sécurité des jouets) afin de garantir que les consommateurs soient protégés contre les dangers, que les fabricants aient une idée claire de leurs obligations et que les utilisateurs soient informés sur la manière d’utiliser ces produits.

La directive sur la responsabilité du fait des produits, adoptée il y a plus de 30 ans, doit également être actualisée afin de s’adapter à des concepts tels que “produit”, “dommages” ou “défaut”, ainsi que les règles régissant la charge de la preuve, affirme la commission parlementaire.

Les députés demandent un système d’évaluation des risques pour l’IA et l’ADM ainsi qu’une approche européenne commune pour contribuer à garantir les avantages de ces procédés et limiter les risques dans l’UE.

Contrôler la tarification différentiée et la discrimination

Conformément à la législation européenne, les commerçants doivent informer les consommateurs lorsque les prix des biens ou des services ont été personnalisés sur la base d’une prise de décision automatisée, rappellent les députés. Ils demandent à la Commission européenne de surveiller de près la mise en œuvre de ces règles et de contrôler la façon dont la réglementation de l’UE interdisant un géoblocage injustifié est appliquée afin de garantir que l’ADM ne soit pas utilisée pour discriminer les consommateurs sur base de leur nationalité, lieu de résidence ou localisation temporaire.

Prochaines étapes

La résolution, adoptée par 39 voix pour, aucune voix contre et 4 abstentions en commission parlementaire, sera prochainement mise aux voix en plénière. Elle alimentera les travaux du Parlement à ce sujet.

Après le vote en plénière, la résolution sera transmise au Conseil de l’UE (États membres) et à la Commission, afin qu’ils puissent prendre en compte l’avis des députés sur l’intelligence artificielle et la prise de décision automatisée. Comme l’a annoncé la Commission, des propositions élaborant l’approche de l’UE envers l’IA devraient être présentées le 19 février 2020.

Pierre-yves Gerlat

Partager l'article

Atos IT Challenge 2020 sur l’Intelligence Artificielle Coopérative – découvrez les équipes gagnantes

L'Atos IT Challenge 2020 s'est tenu cette année sur la thématique ''Intelligence Artificielle Coopérative'. Des équipes de 27 pays se sont affrontés au cours...

Marchés et des usages du numérique : Cap Digital présente sa nouvelle cartographie des tendances

Cap Digital a publié sa cartographie des tendances 2020/2021. Un dossier de 72 pages réalisé grâce à l'expertise des 1 000 membres du collectif...

Industrie 4.0 : Partenariat entre Renault et Google Cloud sur la digitalisation des usines et de la chaîne logistique

Aller plus loin dans l'industrie 4.0 grâce au machine learning et à l'intelligence artificielle, c'est l'objectif du Groupe Renault. Pour ce faire, le constructeur...

Ethique de l’intelligence artificielle : Participez à la consultation de l’UNESCO pour l’élaboration d’une recommandation

Dans le cadre de la décision de la Conférence générale de l'UNESCO lors de sa 40e session en novembre 2019, l'UNESCO s'est engagée dans...