Ce n’est que vendredi dernier, très tard dans la soirée, que les négociateurs du Parlement européen et du Conseil ont annoncé être parvenus à un accord provisoire sur l’AI Act. En dépit de ces dernières 37 heures de négociations, de nombreux détails restent à régler mais l’UE conserve son rôle de pionnier dans la régulation de l’IA.
L’AI Act vise à garantir que les droits fondamentaux, la démocratie, l’Etat de droit et la durabilité environnementale sont protégés contre les risques liés à l’IA, tout en encourageant l’innovation et en faisant de l’Europe un des leaders dans ce domaine.
Les députés et le Conseil ont préservé l’approche basée sur les risques initialement prévue.
Garantir la capacité d’innovation européenne
Au sortir des négociations, Thierry le Breton, Commissaire européen, déclarait sur X : ” Historique! L’UE devient le tout premier continent à établir des règles claires pour l’utilisation de l’IA”, ajoutant : “L’AI Act est bien plus qu’un livre de règles : c’est une rampe de lancement pour les startups et les chercheurs de l’UE afin de mener la course mondiale à l’IA”.
Le lendemain matin, Jean-Noël Barrot, Ministre délégué chargé de la Transition numérique et des Télécommunications, soulignait toutefois que l’accord provisoire n’était qu’une nouvelle étape franchie, le “diable se cachant dans les détails”.
AI Act : l'accord trouvé cette nuit est une étape.
La France sera attentive à ce que la capacité d'innovation soit préservée en Europe.
La meilleure protection que nous pouvons offrir à nos concitoyens c'est d'avoir nos propres modèles européens d'intelligence artificielle. pic.twitter.com/LdgyejvykH
— Jean-Noël Barrot (@jnbarrot) December 9, 2023
Les principaux points de l’accord
Les applications interdites
Afin de préserver les droits des citoyens et la démocratie sont proscrits :
- Les systèmes de catégorisation biométrique utilisant des caractéristiques sensibles (par exemple : opinions politiques, religieuses, philosophiques, orientation sexuelle, race) ;
- L’extraction non ciblée d’images faciales sur Internet ou par vidéosurveillance pour créer des bases de données de reconnaissance faciale ;
- Les systèmes permettant la reconnaissance des émotions sur le lieu de travail et les établissements d’enseignement ;
- La notation sociale basée sur le comportement social ou les caractéristiques personnelles ;
- Les systèmes d’IA qui visent à manipuler le comportement humain pour contourner le libre arbitre ;
- L’IA utilisée pour exploiter les vulnérabilités des personnes (en raison de leur âge, de leur handicap, de leur situation sociale ou économique).
Les systèmes d’identification biométrique : des exemptions pour les services répressifs
Une série de garanties et d’exceptions limitées pour l’utilisation des systèmes d’identification biométrique dans les espaces accessibles au public est mise en place à des fins répressives, sous réserve d’une autorisation judiciaire préalable et pour des listes d’infractions strictement définies. Les systèmes d’identification biométrique “à distance” seront utilisés strictement dans le cadre de la recherche ciblée d’une personne condamnée ou soupçonnée d’avoir commis un crime grave.
Les systèmes d’identification biométrique “en temps réel” répondront à des conditions strictes et leur utilisation sera limitée dans le temps et dans l’espace pour:
- La recherche ciblée de victimes (enlèvement, traite, exploitation sexuelle) .
- La prévention d’une menace terroriste précise et actuelle ;
- La localisation ou l’identification d’une personne soupçonnée d’avoir commis l’un des crimes spécifiques mentionnés dans le règlement (terrorisme, traite, exploitation sexuelle, meurtre, enlèvement, viol, vol à main armée, participation à une organisation criminelle, crime contre l’environnement).
Des obligations strictes pour les systèmes à haut risque
Les systèmes d’IA classés à risque élevé, en raison de leur préjudice potentiel important pour la santé, la sécurité, les droits fondamentaux, l’environnement, la démocratie et l’Etat de droit) sont soumis à des obligations strictes, notamment à une analyse d’impact obligatoire sur les droits fondamentaux, également applicable au secteur bancaire et des assurances. Les systèmes d’IA utilisés pour influencer le résultat des élections et le comportement des électeurs sont classés comme étant à haut risque.
Le droit des consommateurs renforcé
Les citoyens auront le droit de déposer des plaintes concernant les systèmes d’IA et de recevoir des explications sur les décisions basées sur des systèmes d’IA à haut risque qui ont une incidence sur leurs droits.
Les exigences pour les systèmes d’IA à usage général
Les systèmes d’IA à usage général, et les modèles sur lesquels ils sont basés, devront respecter des exigences de transparence, comme initialement proposé par le Parlement. Leurs fournisseurs devront mettre à jour la documentation technique, se conformer à la législation de l’UE sur les droits d’auteurs et diffuser des résumés détaillés sur le contenu utilisé pour leur entraînement.
Pour les systèmes d’IA à usage général présentant un risque systémique, pouvant causer des préjudices importants, ils devront effectuer des évaluations de leurs modèles, évaluer et atténuer les risques systémiques, effectuer des tests contradictoires, rendre compte à la Commission des incidents graves, assurer la cybersécurité et rendre compte de leur efficacité énergétique.
Mesures de soutien à l’innovation et aux entreprises européennes
Les députés voulaient veiller à ce que les entreprises, en particulier les PME, puissent développer des solutions d’IA sans pression excessive de la part des géants de l’industrie qui contrôlent la chaîne de valeur. À cette fin, l’accord promeut des “bacs à sable réglementaires”, et des environnements réels, mis en place par les autorités nationales pour développer et tester une IA innovante avant sa mise sur le marché.
Sanctions
Le non-respect des règles pourra entraîner des amendes allant de 7,5 millions d’euros ou 1,5 % du chiffre d’affaires à 35 millions d’euros ou 7 % du chiffre d’affaires mondial, en fonction de l’infraction et de la taille de l’entreprise.
Prochaines étapes
Le texte approuvé devra être adopté par le Parlement et le Conseil avant d’être intégré à la législation de l’UE. La commission du marché intérieur et des libertés civiles du Parlement votera sur l’accord lors d’une prochaine session.
Les premières réactions
Quand bien même les corapporteurs Brando Benifei et Dragos Tudorache se félicitent sur l’accord trouvé, le coût de mise en conformité à l’AI Act sera un sérieux problème pour les entreprises européennes, ce que souligne d’ailleurs DIGITALEUROPE, qui appelait la semaine dernière à une réglementation plus souple.
Elle déclarait samedi :
“Les nouvelles exigences – en plus d’autres nouvelles lois radicales comme la loi sur les données – nécessiteront beaucoup de ressources pour que les entreprises se conforment, des ressources qui seront consacrées à des avocats au lieu d’embaucher des ingénieurs en IA. Nous sommes particulièrement inquiets pour les nombreuses entreprises de logiciels pour PME qui ne sont pas habituées à la législation sur les produits – ce sera un territoire inexploré pour elles. La course à l’IA n’est pas une course que l’Europe peut manquer.
Nous devons réfléchir longuement et sérieusement à la manière dont nous pouvons compenser cette charge supplémentaire et donner aux entreprises d’ici une chance de se battre”.
Si Jean-Noël Barrot affirme dans son tweet, “Nous allons analyser attentivement le compromis trouvé aujourd’hui et nous assurer dans les prochaines semaines que le texte préserve la capacité de l’Europe à développer ses propres technologies d’intelligence artificielle et préserve son autonomie stratégique”, pour certains acteurs de l’IA, bien qu’ils travaillent depuis 2021 sur la réglementation, les législateurs se sont précipités pour aboutir à un accord.
Daniel Friedlaender, Directeur du bureau européen de l’Association de l’Industrie de l’Informatique et des Communications, le CCIA, porte-parole des TIC, assurait le même jour :
“L’accord politique d’hier soir marque le début d’un travail technique important et nécessaire sur des détails cruciaux de la loi sur l’IA, qui manquent toujours. Malheureusement, la rapidité semble l’avoir emporté sur la qualité, avec des conséquences potentiellement désastreuses pour l’économie européenne. L’impact négatif pourrait être ressenti bien au-delà du seul secteur de l’IA”.
