Les institutions européennes travaillent depuis plusieurs années maintenant sur des questions liées à l'intelligence artificielle et à ses utilisations. La semaine dernière, la commission du marché intérieur et de la protection des consommateurs a adopté une résolution abordant plusieurs défis découlant du développement rapide des technologies de l’intelligence artificielle et de la prise de décision automatisée. Leurs objectifs sont complémentaires : mettre à jour les règles de sécurité et de responsabilité de l’UE au vu des nouveaux produits reposant sur l’IA, utiliser des algorithmes non biaisés et des structures de contrôle et garantir que l’homme reste au final le maitre de la situation.
Les députés veulent un ensemble de droits solides afin de protéger les consommateurs dans le contexte de l'intelligence artificielle et de la prise de décision automatisée.
La commission du marché intérieur et de la protection des consommateurs a ainsi adopté une résolution lié au développement rapide des technologies IA et de prise de décision automatisée (ADM).
La présidente de la commission du marché intérieur et de la protection des consommateurs, Petra De Sutter (Verts/ALE, BE), a déclaré:
"La technologie de l’intelligence artificielle et de la prise de décision automatisée progresse rapidement. Aujourd’hui, la commission parlementaire a salué le potentiel de ces avancées, tout en soulignant trois questions importantes qui devront être soulevées. Nous devons veiller à ce que la protection et la confiance des consommateurs soient garanties, que les règles de l’UE sur la sécurité et la responsabilité des produits et des services soient adaptées à l’ère numérique, et que les ensembles de données utilisés dans les systèmes de prise de décision automatisée soient de qualité et non biaisés."Selon les députés, lorsque les consommateurs interagissent avec un système ADM, ils devraient être correctement informés de son fonctionnement, de la façon de joindre un humain détenant le pouvoir de décision, et de la manière dont les décisions du système peuvent être vérifiées et corrigées, déclare la commission parlementaire. Ces systèmes devraient seulement utiliser des ensembles de données de haute qualité et non biaisées, ainsi que des algorithmes explicables et non biaisés, en vue de renforcer la confiance et l’acceptation des consommateurs, souligne la résolution. Des structures de contrôle devraient être mises en place afin de remédier aux éventuelles erreurs dans les décisions automatisées. Par ailleurs, il devrait être possible pour les consommateurs de demander un contrôle humain et une réparation pour les décisions automatisées qui sont définitives et permanentes. "L’homme doit toujours être responsable en dernier ressort de la prise de décision" et doit pouvoir rejeter les décisions prises par des processus ADM, en particulier pour tout ce qui est lié aux professions dans le domaine médical, juridique et comptable, précisent les députés.