Cette semaine était débattue au Parlement européenne la résolution “Processus de prise de décision automatisés: assurer la protection des consommateurs et la libre circulation des biens et des services” concernant la protection des consommateurs dans le contexte de l’intelligence artificielle et de la prise de décision automatisée. Votée ce mercredi 12 février, elle aborde plusieurs défis découlant du développement rapide de ces technologies. Les députés veulent ainsi garantir une utilisation équitable et sûre pour les consommateurs.
Le texte de la résolution est disponible ici.
À l’initiative du groupe Verts-ALE, le Parlement a adopté la résolution de la rapporteure Petra De Sutter. Le PE appelle à un ensemble de droits solides afin de protéger les consommateurs dans le contexte de l’intelligence artificielle et de la prise de décision automatisée.
La résolution, adoptée mercredi en plénière, aborde plusieurs défis découlant du développement rapide des technologies de l’intelligence artificielle et de la prise de décision automatisée (ADM), en se concentrant sur la protection des consommateurs.
Le Parlement salue le potentiel de l’ADM à fournir des services innovants et améliorés aux consommateurs, notamment de nouveaux services numériques tels que les assistants virtuels et chatbots. Cependant, lorsque les consommateurs interagissent avec un système qui automatise la prise de décision, ils devraient être correctement informés de son fonctionnement, de la façon de contacter un humain détenant le pouvoir de décision, et de la manière dont les décisions du système peuvent être vérifiées et corrigées, ajoute le PE.
Ces systèmes devraient seulement utiliser des ensembles de données de haute qualité et non biaisées, ainsi que des algorithmes explicables et non biaisés, souligne la résolution. Des structures de contrôle devraient être mises en place afin de remédier aux éventuelles erreurs dans les décisions automatisées. Par ailleurs, il devrait être possible pour les consommateurs de demander réparation pour les décisions automatisées qui sont définitives et permanentes.
“L’homme doit toujours être responsable en dernier ressort de la prise de décision” pour les services professionnels tels que les professions dans le domaine médical, juridique et comptable, du secteur bancaire, et être en mesure de les annuler, précisent les députés.
Le Parlement demande un système d’évaluation des risques pour l’IA et l’ADM ainsi qu’une approche européenne commune pour aider à garantir les avantages de ces processus et atténuer les risques dans l’UE.
Adapter les règles sur la sécurité et la responsabilité pour couvrir les nouvelles technologies
Les députés exhortent la Commission européenne à présenter des propositions pour actualiser les règles européennes sur la sécurité (par exemple les directives sur la sécurité des machines et des jouets). L’objectif est de garantir que les consommateurs soient mieux informés sur la façon d’utiliser ces produits et protégés contre les dangers, tout en veillant à ce que les fabricants aient une idée claire de leurs obligations.
La directive sur la responsabilité du fait des produits, adoptée il y a plus de 30 ans, devrait également être actualisée afin de s’adapter à des concepts tels que “produit”, “dommages” ou “défaut”, ainsi que les règles régissant la charge de la preuve, affirme le Parlement.
Tarification différentiée et discrimination
Conformément à la législation européenne, les commerçants doivent informer les consommateurs lorsque les prix des biens ou des services ont été personnalisés sur la base d’une prise de décision automatisée, rappellent les députés. Ils demandent à la Commission de surveiller de près la mise en œuvre de ces règles. Par ailleurs, l’UE doit aussi s’assurer que l’ADM ne soit pas utilisée pour discriminer les consommateurs sur base de leur nationalité, lieu de résidence ou localisation temporaire.
Suite à l’adoption de la résolution, Petra De Sutter, Présidente de la Commission Marché intérieur et Protection des consommateurs, a déclaré :
“L’intelligence artificielle et la prise de décision automatisée représentent un potentiel d’innovation et d’amélioration de la qualité tant des produits que des services. Mais pour réaliser ce potentiel, nous devons résoudre un certain nombre de questions et relever des défis importants. Parmi ces défis, la transparence, la supervision humaine, la mise en place d’une règlementation de l’IA basée sur le risque ne sont pas des moindres.
L’UE doit être capable de garantir des standards élevés qui profiteront également à nos petites et moyennes entreprises. Nous estimons que toute stratégie sur l’IE doit comporter des objectifs de durabilité et de protection du climat. Il est donc regrettable que les autres groupes du Parlement s’y soient opposés.
Enfin, nous demandons à la Commission européenne d’évaluer l’impact de l’IE sur l’environnement et sur la consommation d’énergie pour en tenir compte dans sa stratégie”.
Prochaines étapes
La résolution, adoptée à main levée, sera transmise au Conseil de l’UE (États membres) et à la Commission, afin qu’ils puissent prendre en compte l’avis des députés sur l’intelligence artificielle et la prise de décision automatisée. Comme l’a annoncé la Commission, des propositions élaborant l’approche de l’UE envers l’IA devraient être présentées le 19 février 2020.
