Les récents développements de l’IA générative et de modèles de fondation, notamment celui de ChatGPT, qui n’étaient pas prévus dans la proposition initiale de l’AI Act, sont venus perturber les débats des eurodéputés, entraînant le report du vote de la Commission européenne prévu le 26 avril dernier. Les législateurs européens sont toutefois parvenus à un accord politique le 27 avril dernier, ont ensuite partagé une version affinée des amendements de compromis le 5 mai et le vote devrait finalement se dérouler ce jeudi 11 mai, avant que le texte ne soit l’objet d’un vote en plénière dans environ un mois.
Selon Euractiv, les eurodéputés ont marchandé âprement certaines des parties les plus controversées de la proposition, les compromis incluent ainsi des changements de dernière minute.
Un régime plus strict pour les modèles de fondation
Les eurodéputés veulent faire une distinction entre systèmes d’IA (SIA) à usage général et modèles de fondation, en introduisant un régime plus strict pour ces derniers.
Les IA génératives devront être développées en accord avec le droit de l’UE et les droits fondamentaux, notamment la liberté d’expression, un résumé détaillé des données de formation couvertes par la loi sur le droit d’auteur devra être produit et, pour plus de transparence, il faudra afficher que le contenu a été généré par une IA.
D’autre part, les modèles de fondation devront être conformes aux normes environnementales européennes.
Les fournisseurs de modèles de fondations qui ne respectent pas les règles en matière d’IA sont passibles d’une amende de 10 millions d’euros ou de 2 % de leur chiffre d’affaires annuel, le montant le plus élevé étant retenu.
La classification des risques
La proposition initiale de l’AI Act classe les SIA selon différents niveaux de risque : minime, limité, élevé ou haut risque et inacceptable.
Elle prévoit que les fournisseurs de SIA à haut risque se conforment à un régime plus strict, notamment en matière de transparence, de gestion des risques et de gouvernance des données.
Selon l’accord du 27 avril, Les SIA seront classés à haut risque uniquement s’ils présentent un risque significatif de préjudice pour la santé, la sécurité ou les droits fondamentaux.
Pour être catégorisés « à haut risque », les SIA devront également présenter un « risque important » « en raison de la combinaison de sa gravité, de son intensité, de sa probabilité d’occurrence et de la durée de ses effets, et sa capacité d’affecter une personne, une pluralité de personnes ou d’affecter un groupe particulier de personnes ».
Dans cette catégorie à haut risque ont été rajoutés les systèmes de recommandation des très grandes plateformes en ligne, tels que définis dans la loi sur les services numériques (DSA), les SIA pour gérer les réseaux énergétiques ou de l’eau.
Côté durabilité, les SIA à haut risque devront tenir des registres de leur empreinte environnementale.
Les SIA biométriques classés à risque inacceptable
Les systèmes d’identification biométrique en temps réel et a posteriori, à l’exception pour ce dernier en cas de criminalité grave et d’autorisation préalable, sont désormais considérées comme à risque inacceptable et donc interdits.
Parmi les autres interdictions, on trouve l’utilisation de logiciels de reconnaissance des émotions dans les domaines de l’application de la loi, de la gestion des frontières, du lieu de travail et de l’éducation. Celle de la police prédictive qui concernait les infractions pénales a été étendue aux infractions administratives.
