Prochain numéro du magazine ActuIA le 15 octobre
Actualité Vers un ensemble de droits solides pour garantir une utilisation équitable et...

Pour approfondir le sujet

Le Québec mise sur l’intelligence artificielle pour freiner l’exode des cerveaux

Le domaine de l'intelligence artificielle est en plein développement et plusieurs pays, dont le Canada, n'hésitent pas à y investir fortement. Ce lundi 15...

Sortie de la version release candidate de TensorFlow 1.3

La version Tensorflow 1.3 RC vient d'être diffusée. Voici un petit récapitulatif des différents changements apportés par cette nouvelle version de la librairie de...

Vers un ensemble de droits solides pour garantir une utilisation équitable et sûre de l’intelligence artificielle et de la prise de décision automatisée par le consommateur ?

Les institutions européennes travaillent depuis plusieurs années maintenant sur des questions liées à l’intelligence artificielle et à ses utilisations. La semaine dernière, la commission du marché intérieur et de la protection des consommateurs a adopté une résolution abordant plusieurs défis découlant du développement rapide des technologies de l’intelligence artificielle et de la prise de décision automatisée. Leurs objectifs sont complémentaires : mettre à jour les règles de sécurité et de responsabilité de l’UE au vu des nouveaux produits reposant sur l’IA, utiliser des algorithmes non biaisés et des structures de contrôle et garantir que l’homme reste au final le maitre de la situation.

Les députés veulent un ensemble de droits solides afin de protéger les consommateurs dans le contexte de l’intelligence artificielle et de la prise de décision automatisée.
La commission du marché intérieur et de la protection des consommateurs a ainsi adopté  une résolution lié au développement rapide des technologies IA et de prise de décision automatisée (ADM).

La présidente de la commission du marché intérieur et de la protection des consommateurs, Petra De Sutter (Verts/ALE, BE), a déclaré:

“La technologie de l’intelligence artificielle et de la prise de décision automatisée progresse rapidement. Aujourd’hui, la commission parlementaire a salué le potentiel de ces avancées, tout en soulignant trois questions importantes qui devront être soulevées.

Nous devons veiller à ce que la protection et la confiance des consommateurs soient garanties, que les règles de l’UE sur la sécurité et la responsabilité des produits et des services soient adaptées à l’ère numérique, et que les ensembles de données utilisés dans les systèmes de prise de décision automatisée soient de qualité et non biaisés.”

Selon les députés, lorsque les consommateurs interagissent avec un système ADM, ils devraient être correctement informés de son fonctionnement, de la façon de joindre un humain détenant le pouvoir de décision, et de la manière dont les décisions du système peuvent être vérifiées et corrigées, déclare la commission parlementaire.

Ces systèmes devraient seulement utiliser des ensembles de données de haute qualité et non biaisées, ainsi que des algorithmes explicables et non biaisés, en vue de renforcer la confiance et l’acceptation des consommateurs, souligne la résolution. Des structures de contrôle devraient être mises en place afin de remédier aux éventuelles erreurs dans les décisions automatisées. Par ailleurs, il devrait être possible pour les consommateurs de demander un contrôle humain et une réparation pour les décisions automatisées qui sont définitives et permanentes.

“L’homme doit toujours être responsable en dernier ressort de la prise de décision” et doit pouvoir rejeter les décisions prises par des processus ADM, en particulier pour tout ce qui est lié aux professions dans le domaine médical, juridique et comptable, précisent les députés.

Adapter les règles sur la responsabilité aux nouvelles technologies

Les produits reposant sur l’IA peuvent évoluer et agir d’une façon qui n’avait pas été envisagée lors de leur mise sur le marché. Les députés exhortent la Commission européenne à présenter des propositions pour adapter la législation européenne sur la sécurité des produits (par exemple les directives sur les machines et la sécurité des jouets) afin de garantir que les consommateurs soient protégés contre les dangers, que les fabricants aient une idée claire de leurs obligations et que les utilisateurs soient informés sur la manière d’utiliser ces produits.

La directive sur la responsabilité du fait des produits, adoptée il y a plus de 30 ans, doit également être actualisée afin de s’adapter à des concepts tels que “produit”, “dommages” ou “défaut”, ainsi que les règles régissant la charge de la preuve, affirme la commission parlementaire.

Les députés demandent un système d’évaluation des risques pour l’IA et l’ADM ainsi qu’une approche européenne commune pour contribuer à garantir les avantages de ces procédés et limiter les risques dans l’UE.

Contrôler la tarification différentiée et la discrimination

Conformément à la législation européenne, les commerçants doivent informer les consommateurs lorsque les prix des biens ou des services ont été personnalisés sur la base d’une prise de décision automatisée, rappellent les députés. Ils demandent à la Commission européenne de surveiller de près la mise en œuvre de ces règles et de contrôler la façon dont la réglementation de l’UE interdisant un géoblocage injustifié est appliquée afin de garantir que l’ADM ne soit pas utilisée pour discriminer les consommateurs sur base de leur nationalité, lieu de résidence ou localisation temporaire.

Prochaines étapes

La résolution, adoptée par 39 voix pour, aucune voix contre et 4 abstentions en commission parlementaire, sera prochainement mise aux voix en plénière. Elle alimentera les travaux du Parlement à ce sujet.

Après le vote en plénière, la résolution sera transmise au Conseil de l’UE (États membres) et à la Commission, afin qu’ils puissent prendre en compte l’avis des députés sur l’intelligence artificielle et la prise de décision automatisée. Comme l’a annoncé la Commission, des propositions élaborant l’approche de l’UE envers l’IA devraient être présentées le 19 février 2020.

Pierre-yves Gerlat

Partager l'article

8 startups et PME françaises lauréates de l’appel à projets EUREKA – Challenge international COVID-19

Bpifrance a annoncé ce jour les lauréats du Challenge international Covid-19. Suite à l'appel à projets ouvert du 15 avril au 15 mai 2020,...

Une approche européenne de l’intelligence artificielle : EIT Digital fait part de ses recommandations

EIT Digital a présenté son troisième rapport de sa série Policy Perspective. Il aborde la manière dont l'Europe devrait gérer l'intelligence artificielle et fournit...

Replay – Conférence 1re Pierre : Cité de l’Intelligence Artificielle organisée par le département des Alpes-Maritimes et l’Institut EuropIA

Le lundi 14 septembre 2020 s'est déroulé le troisième #IADATES organisé par le département des Alpes-Maritimes et l’Institut EuropIA. Intitulée "1re Pierre : Cité...

reciTAL, spécialiste du TAL, lève 3,5 M€ auprès de Breega

Paris, le 10 septembre 2020 - reciTAL, start-up IA spécialisée dans les solutions de Document Intelligence, effectue une première levée de fonds de 3,5 M€...