Les eurodéputés parviennent à un accord politique sur l’AI Act

Les récents développements de l’IA générative et de modèles de fondation, notamment celui de ChatGPT, qui n’étaient pas prévus dans la proposition initiale de l’AI Act, sont venus perturber les débats des eurodéputés, entraînant le report du vote de la Commission européenne prévu le 26 avril dernier. Les législateurs européens sont toutefois parvenus à un accord politique le 27 avril dernier, ont ensuite partagé une version affinée des amendements de compromis le 5 mai et le vote devrait finalement se dérouler ce jeudi 11 mai, avant que le texte ne soit l’objet d’un vote en plénière dans environ un mois.

Selon Euractiv, les eurodéputés ont marchandé âprement certaines des parties les plus controversées de la proposition, les compromis incluent ainsi des changements de dernière minute.

Un régime plus strict pour les modèles de fondation

Les eurodéputés veulent faire une distinction entre systèmes d’IA (SIA) à usage général et modèles de fondation, en introduisant un régime plus strict pour ces derniers.

Les IA génératives devront être développées en accord avec le droit de l’UE et les droits fondamentaux, notamment la liberté d’expression, un résumé détaillé des données de formation couvertes par la loi sur le droit d’auteur devra être produit et, pour plus de transparence, il faudra afficher que le contenu a été généré par une IA.

D’autre part, les modèles de fondation devront être conformes aux normes environnementales européennes.

Les fournisseurs de modèles de fondations qui ne respectent pas les règles en matière d’IA sont passibles d’une amende de 10 millions d’euros ou de 2 % de leur chiffre d’affaires annuel, le montant le plus élevé étant retenu.

La classification des risques

La proposition initiale de l’AI Act classe les SIA selon différents niveaux de risque : minime, limité, élevé ou haut risque et inacceptable.

Elle prévoit que les fournisseurs de SIA à haut risque se conforment à un régime plus strict, notamment en matière de transparence, de gestion des risques et de gouvernance des données.

Selon l’accord du 27 avril, Les SIA seront classés à haut risque uniquement s’ils présentent un risque significatif de préjudice pour la santé, la sécurité ou les droits fondamentaux.

Pour être catégorisés « à haut risque », les SIA devront également présenter un « risque important » « en raison de la combinaison de sa gravité, de son intensité, de sa probabilité d’occurrence et de la durée de ses effets, et sa capacité d’affecter une personne, une pluralité de personnes ou d’affecter un groupe particulier de personnes ».

Dans cette catégorie à haut risque ont été rajoutés les systèmes de recommandation des très grandes plateformes en ligne, tels que définis dans la loi sur les services numériques (DSA), les SIA pour gérer les réseaux énergétiques ou de l’eau.

Côté durabilité, les SIA à haut risque devront tenir des registres de leur empreinte environnementale.

Les SIA biométriques classés à risque inacceptable

Les systèmes d’identification biométrique en temps réel et a posteriori, à l’exception pour ce dernier en cas de criminalité grave et d’autorisation préalable, sont désormais considérées comme à risque inacceptable et donc interdits.

Parmi les autres interdictions, on trouve l’utilisation de logiciels de reconnaissance des émotions dans les domaines de l’application de la loi, de la gestion des frontières, du lieu de travail et de l’éducation. Celle de la police prédictive qui concernait les infractions pénales a été étendue aux infractions administratives.

Recevez gratuitement l'actualité de l'intelligence artificielle

Suivez la Newsletter de référence sur l'intelligence artificielle (+ de 18 000 membres), quotidienne et 100% gratuite.


Tout comme vous, nous n'apprécions pas le spam. Vos coordonnées ne seront transmises à aucun tiers.

1ère Marketplace de l'IA et de la transformation numérique vous recommande :
Netwave Suite - Product par Netwave

Grâce à sa technologie exclusive d’ia inductive, netwave suite est une plateforme de référence en matière de personnalisation temps réel en mode saas....

 
Partager l'article
Offre exclusive : 1 an d'abonnement au magazine ActuIA + Le guide pratique d'adoption de l'IA en entreprise pour seulement 27,60€ Boutique ActuIA Pour tout abonnement à ActuIA, recevez en cadeau le Guide Pratique d'Adoption de l'IA en Entreprise, d'une valeur de 23€ !
intelligence artificielle
À PROPOS DE NOUS
Le portail francophone consacré à l'intelligence artificielle et à la datascience, à destination des chercheurs, étudiants, professionnels et passionnés.