Intelligence artificielle Vers un ensemble de droits solides pour garantir une utilisation équitable et...

Pour approfondir le sujet

Sur le même thème :

Quels sont les contours de la législation UE envisagée par les députés autour de l’intelligence artificielle ?

Les députés européens travaillent actuellement sur la législation qui sera adoptée autour de l'intelligence artificielle (IA). Innovation, accès aux données, protection des citoyens, éthique,...

Recevez le magazine de l’intelligence artificielle ActuIA N°3

Le magazine de l'intelligence artificielle, ActuIA N°3 du 15 février 2021, paraîtra très prochainement. En ce contexte de pandémie, nous vous recommandons fortement de...

Le Comité économique et social européen rend son Avis sur le Livre blanc sur l’Intelligence artificielle

À l'occasion de la session plénière du 16 juillet dernier, le Comité économique et social européen (CESE) a rendu son avis sur le Livre...

Le Parlement créé une commission spéciale sur l’IA à l’ère du numérique pour analyser son impact sur l’économie de l’UE

Le Parlement européen a créé une nouvelle commission spéciale sur l’intelligence artificielle à l’ère du numérique. Elle étudiera l'impact et les défis du déploiement de...

Vers un ensemble de droits solides pour garantir une utilisation équitable et sûre de l’intelligence artificielle et de la prise de décision automatisée par le consommateur ?

Les institutions européennes travaillent depuis plusieurs années maintenant sur des questions liées à l’intelligence artificielle et à ses utilisations. La semaine dernière, la commission du marché intérieur et de la protection des consommateurs a adopté une résolution abordant plusieurs défis découlant du développement rapide des technologies de l’intelligence artificielle et de la prise de décision automatisée. Leurs objectifs sont complémentaires : mettre à jour les règles de sécurité et de responsabilité de l’UE au vu des nouveaux produits reposant sur l’IA, utiliser des algorithmes non biaisés et des structures de contrôle et garantir que l’homme reste au final le maitre de la situation.

Les députés veulent un ensemble de droits solides afin de protéger les consommateurs dans le contexte de l’intelligence artificielle et de la prise de décision automatisée.
La commission du marché intérieur et de la protection des consommateurs a ainsi adopté  une résolution lié au développement rapide des technologies IA et de prise de décision automatisée (ADM).

La présidente de la commission du marché intérieur et de la protection des consommateurs, Petra De Sutter (Verts/ALE, BE), a déclaré:

“La technologie de l’intelligence artificielle et de la prise de décision automatisée progresse rapidement. Aujourd’hui, la commission parlementaire a salué le potentiel de ces avancées, tout en soulignant trois questions importantes qui devront être soulevées.

Nous devons veiller à ce que la protection et la confiance des consommateurs soient garanties, que les règles de l’UE sur la sécurité et la responsabilité des produits et des services soient adaptées à l’ère numérique, et que les ensembles de données utilisés dans les systèmes de prise de décision automatisée soient de qualité et non biaisés.”

Selon les députés, lorsque les consommateurs interagissent avec un système ADM, ils devraient être correctement informés de son fonctionnement, de la façon de joindre un humain détenant le pouvoir de décision, et de la manière dont les décisions du système peuvent être vérifiées et corrigées, déclare la commission parlementaire.

Ces systèmes devraient seulement utiliser des ensembles de données de haute qualité et non biaisées, ainsi que des algorithmes explicables et non biaisés, en vue de renforcer la confiance et l’acceptation des consommateurs, souligne la résolution. Des structures de contrôle devraient être mises en place afin de remédier aux éventuelles erreurs dans les décisions automatisées. Par ailleurs, il devrait être possible pour les consommateurs de demander un contrôle humain et une réparation pour les décisions automatisées qui sont définitives et permanentes.

“L’homme doit toujours être responsable en dernier ressort de la prise de décision” et doit pouvoir rejeter les décisions prises par des processus ADM, en particulier pour tout ce qui est lié aux professions dans le domaine médical, juridique et comptable, précisent les députés.

Adapter les règles sur la responsabilité aux nouvelles technologies

Les produits reposant sur l’IA peuvent évoluer et agir d’une façon qui n’avait pas été envisagée lors de leur mise sur le marché. Les députés exhortent la Commission européenne à présenter des propositions pour adapter la législation européenne sur la sécurité des produits (par exemple les directives sur les machines et la sécurité des jouets) afin de garantir que les consommateurs soient protégés contre les dangers, que les fabricants aient une idée claire de leurs obligations et que les utilisateurs soient informés sur la manière d’utiliser ces produits.

La directive sur la responsabilité du fait des produits, adoptée il y a plus de 30 ans, doit également être actualisée afin de s’adapter à des concepts tels que “produit”, “dommages” ou “défaut”, ainsi que les règles régissant la charge de la preuve, affirme la commission parlementaire.

Les députés demandent un système d’évaluation des risques pour l’IA et l’ADM ainsi qu’une approche européenne commune pour contribuer à garantir les avantages de ces procédés et limiter les risques dans l’UE.

Contrôler la tarification différentiée et la discrimination

Conformément à la législation européenne, les commerçants doivent informer les consommateurs lorsque les prix des biens ou des services ont été personnalisés sur la base d’une prise de décision automatisée, rappellent les députés. Ils demandent à la Commission européenne de surveiller de près la mise en œuvre de ces règles et de contrôler la façon dont la réglementation de l’UE interdisant un géoblocage injustifié est appliquée afin de garantir que l’ADM ne soit pas utilisée pour discriminer les consommateurs sur base de leur nationalité, lieu de résidence ou localisation temporaire.

Prochaines étapes

La résolution, adoptée par 39 voix pour, aucune voix contre et 4 abstentions en commission parlementaire, sera prochainement mise aux voix en plénière. Elle alimentera les travaux du Parlement à ce sujet.

Après le vote en plénière, la résolution sera transmise au Conseil de l’UE (États membres) et à la Commission, afin qu’ils puissent prendre en compte l’avis des députés sur l’intelligence artificielle et la prise de décision automatisée. Comme l’a annoncé la Commission, des propositions élaborant l’approche de l’UE envers l’IA devraient être présentées le 19 février 2020.


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Pierre-yves Gerlat

Partager l'article

Découvrez ActuIA n°8, le nouveau numéro du magazine de l’intelligence artificielle

L’été est bien là et c’est déjà l’heure du nouveau numéro d’ActuIA, votre magazine de l’intelligence artificielle ! Pour ce n°8 d’ActuIA, disponible dès...

Victor Schmidt, doctorant sous la direction de Yoshua Bengio, est le lauréat de la 6ème bourse Antidote en TAL

Druide informatique a annoncé fin mai la nomination du lauréat de la 6e Bourse Antidote en traitement automatique de la langue (TAL). Victor Schmidt,...

Retour sur le lauréat du Prix CNIL-INRIA pour la protection de la vie privée

Fin mai, François Pelligrini et Mathieu Cunche, co-présidents du Jury du Prix CNIL-Inria, ont remis le prix pour la protection de la vie privée...

La Lufthansa s’appuie sur le logiciel « Virtual Aviation Training » de NMY pour former ses équipes de cabine

La pandémie a fortement impacté les compagnies aériennes. Depuis la levée des restrictions sanitaires, elles doivent affronter un autre problème : malgré une forte...
Recevoir une notification en cas d'actualité importante    OK Non merci