Vers un ensemble de droits solides pour garantir une utilisation équitable et sûre de l’intelligence artificielle et de la prise de décision automatisée par le consommateur ?

Vers un ensemble de droits solides pour garantir une utilisation équitable et sûre de l’intelligence a
Actu IA
© European Union 2020 - Source : EP - Sebastien PIRLET
© European Union 2020 - Source : EP - Sebastien PIRLET

Les institutions européennes travaillent depuis plusieurs années maintenant sur des questions liées à l’intelligence artificielle et à ses utilisations. La semaine dernière, la commission du marché intérieur et de la protection des consommateurs a adopté une résolution abordant plusieurs défis découlant du développement rapide des technologies de l’intelligence artificielle et de la prise de décision automatisée. Leurs objectifs sont complémentaires : mettre à jour les règles de sécurité et de responsabilité de l’UE au vu des nouveaux produits reposant sur l’IA, utiliser des algorithmes non biaisés et des structures de contrôle et garantir que l’homme reste au final le maitre de la situation.

Les députés veulent un ensemble de droits solides afin de protéger les consommateurs dans le contexte de l’intelligence artificielle et de la prise de décision automatisée.
La commission du marché intérieur et de la protection des consommateurs a ainsi adopté  une résolution lié au développement rapide des technologies IA et de prise de décision automatisée (ADM).

La présidente de la commission du marché intérieur et de la protection des consommateurs, Petra De Sutter (Verts/ALE, BE), a déclaré:

“La technologie de l’intelligence artificielle et de la prise de décision automatisée progresse rapidement. Aujourd’hui, la commission parlementaire a salué le potentiel de ces avancées, tout en soulignant trois questions importantes qui devront être soulevées.

Nous devons veiller à ce que la protection et la confiance des consommateurs soient garanties, que les règles de l’UE sur la sécurité et la responsabilité des produits et des services soient adaptées à l’ère numérique, et que les ensembles de données utilisés dans les systèmes de prise de décision automatisée soient de qualité et non biaisés.”

Selon les députés, lorsque les consommateurs interagissent avec un système ADM, ils devraient être correctement informés de son fonctionnement, de la façon de joindre un humain détenant le pouvoir de décision, et de la manière dont les décisions du système peuvent être vérifiées et corrigées, déclare la commission parlementaire.

Ces systèmes devraient seulement utiliser des ensembles de données de haute qualité et non biaisées, ainsi que des algorithmes explicables et non biaisés, en vue de renforcer la confiance et l’acceptation des consommateurs, souligne la résolution. Des structures de contrôle devraient être mises en place afin de remédier aux éventuelles erreurs dans les décisions automatisées. Par ailleurs, il devrait être possible pour les consommateurs de demander un contrôle humain et une réparation pour les décisions automatisées qui sont définitives et permanentes.

“L’homme doit toujours être responsable en dernier ressort de la prise de décision” et doit pouvoir rejeter les décisions prises par des processus ADM, en particulier pour tout ce qui est lié aux professions dans le domaine médical, juridique et comptable, précisent les députés.

Adapter les règles sur la responsabilité aux nouvelles technologies

Les produits reposant sur l’IA peuvent évoluer et agir d’une façon qui n’avait pas été envisagée lors de leur mise sur le marché. Les députés exhortent la Commission européenne à présenter des propositions pour adapter la législation européenne sur la sécurité des produits (par exemple les directives sur les machines et la sécurité des jouets) afin de garantir que les consommateurs soient protégés contre les dangers, que les fabricants aient une idée claire de leurs obligations et que les utilisateurs soient informés sur la manière d’utiliser ces produits.

La directive sur la responsabilité du fait des produits, adoptée il y a plus de 30 ans, doit également être actualisée afin de s’adapter à des concepts tels que “produit”, “dommages” ou “défaut”, ainsi que les règles régissant la charge de la preuve, affirme la commission parlementaire.

Les députés demandent un système d’évaluation des risques pour l’IA et l’ADM ainsi qu’une approche européenne commune pour contribuer à garantir les avantages de ces procédés et limiter les risques dans l’UE.

Contrôler la tarification différentiée et la discrimination

Conformément à la législation européenne, les commerçants doivent informer les consommateurs lorsque les prix des biens ou des services ont été personnalisés sur la base d’une prise de décision automatisée, rappellent les députés. Ils demandent à la Commission européenne de surveiller de près la mise en œuvre de ces règles et de contrôler la façon dont la réglementation de l’UE interdisant un géoblocage injustifié est appliquée afin de garantir que l’ADM ne soit pas utilisée pour discriminer les consommateurs sur base de leur nationalité, lieu de résidence ou localisation temporaire.

Prochaines étapes

La résolution, adoptée par 39 voix pour, aucune voix contre et 4 abstentions en commission parlementaire, sera prochainement mise aux voix en plénière. Elle alimentera les travaux du Parlement à ce sujet.

Après le vote en plénière, la résolution sera transmise au Conseil de l’UE (États membres) et à la Commission, afin qu’ils puissent prendre en compte l’avis des députés sur l’intelligence artificielle et la prise de décision automatisée. Comme l’a annoncé la Commission, des propositions élaborant l’approche de l’UE envers l’IA devraient être présentées le 19 février 2020.