Ce mercredi 14 juin, le Parlement européen a adopté sa position sur l’AI Act par 499 voix pour, 28 contre et 93 abstentions. Les négociations avec le Conseil sur la forme finale de la législation ont déjà débuté.
Pour rappel, l’AI Act vise à ce que l’IA qui est développée et utilisée en Europe soit pleinement conforme aux droits et valeurs de l’UE, notamment sur la surveillance humaine, la sécurité, la protection de la vie privée, la transparence, la non-discrimination et le bien-être social et environnemental.
Les récents développements de l’IA générative et de modèles de fondation, notamment celui de ChatGPT, ne pouvaient pas être prévus dans la proposition initiale de l’AI Act. Ils sont venus perturber les débats des eurodéputés, entraînant le report du vote de la Commission européenne prévu le 26 avril dernier. Les législateurs européens étaient toutefois parvenus à un accord politique le 27 avril, ont ensuite partagé une version affinée des amendements de compromis le 5 mai suivant. Les comités des libertés civiles et du marché intérieur du Parlement ont ensuite adopté la loi le 11.
L’étape suivante était donc l’adoption en plénière qui vient d’avoir lieu ce 14 juin. La version adoptée inclut l’interdiction des utilisations intrusives et discriminatoires de l’IA, notamment :
- les systèmes d’identification biométriques à distance en “temps réel” dans les espaces accessibles au public ;
- les systèmes d’identification biométrique à distance “a posteriori”, à la seule exception des forces de l’ordre pour la poursuite de crimes graves, et seulement après autorisation judiciaire ;
- les systèmes d’identification biométrique utilisant des caractéristiques sensibles (par exemple, le genre, la race, l’origine ethnique, le statut de citoyen, la religion, l’orientation politique) ;
- les systèmes de police prédictive (fondés sur le profilage, la localisation ou le comportement criminel passé) ;
- les systèmes de reconnaissance des émotions utilisés dans les services répressifs, la gestion des frontières, le lieu de travail et les établissements d’enseignement ;
- la saisie non ciblée d’images faciales provenant d’internet ou de séquences de vidéosurveillance en vue de créer des bases de données de reconnaissance faciale (ce qui constitue une violation des droits humains et du droit au respect de la vie privée).
Systèmes d’IA à haut risque
La proposition initiale de l’AI Act classait les systèmes d’IA selon différents niveaux de risque, allant de minime à inacceptable. Les systèmes d’IA à haut risque devront se conformer à un régime plus strict en matière de transparence, de gestion des risques et de gouvernance des données.
Les eurodéputés ont veillé à ce que la classification des applications à haut risque s’applique désormais aux systèmes d’IA qui portent gravement atteinte à la santé, à la sécurité et aux droits fondamentaux des personnes ou à l’environnement.
Les systèmes d’IA utilisés pour influencer les électeurs et le résultat des élections, ainsi que les systèmes d’IA utilisés dans les systèmes de recommandation exploités par les plateformes de médias sociaux (ayant plus de 45 millions d’utilisateurs) ont été ajoutés à la liste des systèmes à haut risque.
Obligations pour les systèmes d’IA à usage général
Les fournisseurs de ces SIA devront évaluer et atténuer les risques potentiels, notamment dans les domaines de la santé, de la sécurité, des droits fondamentaux, de l’environnement, la démocratie et l’état de droit. Ils devront aussi enregistrer leurs modèles dans la base de données de l’UE avant leur mise en circulation sur le marché européen.
Les systèmes d’IA générative basés sur de tels modèles, comme ChatGPT, devront respecter les exigences en matière de transparence (mentionner que le contenu est généré par l’IA, aider également à distinguer les fausses images des vraies) et offrir des garanties contre la génération de contenus illicites. Des résumés détaillés des données protégées par le droit d’auteur utilisées pour la formation des IA devront également être rendus publics.
Encourager l’innovation et protéger les droits des citoyens
Pour soutenir l’innovation en matière d’IA et les PME, les eurodéputés ont ajouté des exceptions pour les activités de recherche et les composants d’IA fournis dans le cadre de licences libres. Ils veulent d’autre part renforcer le droit des citoyens à porter plainte contre les SIA et à obtenir des explications sur les décisions fondées sur des SIA à haut risque ayant une incidence sur leurs droits fondamentaux.
Le rapporteur Brando Benifei (S&D, Italie) a déclaré à la suite du vote:
“Aujourd’hui, tous les regards sont tournés vers nous. Alors que les grandes entreprises technologiques tirent la sonnette d’alarme au sujet de leurs propres créations, l’Europe est allée de l’avant et a proposé une réponse concrète aux risques que l’IA commence à poser. Nous voulons exploiter le potentiel positif de l’IA en termes de créativité et de productivité, mais nous nous battrons aussi pour protéger notre position et contrer les dangers qui pèsent sur nos démocraties et nos libertés lors des négociations avec le Conseil”.
Le corapporteur Dragoş Tudorache (Renew, Roumanie), a ajouté:
“La loi sur l’IA donnera le ton au niveau mondial en matière de développement et de gouvernance de l’intelligence artificielle, en veillant à ce que cette technologie, appelée à transformer radicalement nos sociétés grâce aux avantages considérables qu’elle peut offrir, évolue et soit utilisée dans le respect des valeurs européennes que sont la démocratie, les droits fondamentaux et l’État de droit”.
