AI Act : les négociations se poursuivent aujourd'hui

Un accord politique sur l'AI Act était attendu mercredi dernier. Les discussions qui ont débuté au début de l'après-midi se sont prolongées 22 heures durant, mais la loi européenne sur l'IA n'a pu être finalisée. Les travaux entre la Commission européenne, le Parlement européen et le Conseil de l'Europe ont donc repris ce matin à 9 heures. L'UE a été la première à vouloir instaurer un cadre réglementaire pour l'IA, visant à réguler l’intelligence artificielle en fonction de son potentiel à causer des dommages. Elle espérait que d'autres pays s'en inspireraient. Les négociations du trilogue avançaient plutôt bien jusqu'à ce que l'IA générative ne prenne son essor, envenime les discussions entre le Conseil et le Parlement, et ne sème ensuite la discorde entre partisans de la réglementation stricte adoptée en juin dernier par le Parlement et ceux d'une réglementation plus souple à l'instar de celle que les Etats-Unis veulent mettre en place. En mai dernier, les législateurs européens avaient distingué les systèmes d’IA à usage général et les modèles de fondation, en introduisant un régime plus strict pour ces derniers, en matière de transparence, de gestion des risques et de gouvernance des données. Les systèmes biométriques, classés comme présentant un risque inacceptable étaient interdits. Brando Benifei, l’un des co-rapporteurs du dossier, déclarait alors :

“Nous sommes sur le point de construire une véritable législation phare pour le paysage numérique, non seulement pour l’Europe, mais aussi pour le monde entier”.

Lors d’une réunion du Conseil Européen le 9 novembre dernier, la France, l’Allemagne et l’Italie, se sont opposés à une règlementation des modèles de fondation, privilégiant l'autorégulation de leurs fournisseurs, mais faisant porter la responsabilité à ceux qui les utilisent pour leurs applications spécifiques. Les législateurs se trouvent aujourd'hui face à un défi : s'ils ne parviennent pas à s'entendre aujourd'hui, les négociations seront sans doute repoussées après les élections européennes en juin prochain. Mais selon Thierry Breton, Commissaire européen, "De nombreux progrès ont été réalisés au cours des dernières 22 heures sur le #AIAct".

Les modèles de fondation open-source à l'abri de réglementations strictes

Selon les 1ères informations sur ces 22 heures de négociations, un accord provisoire aurait été trouvé pour les modèles de fondation, principale pierre d'achoppement des discussions. Il préserve une approche à plusieurs niveaux, les obligations de transparence sont maintenues pour tous les modèles, un résumé détaillé des données d'entraînement devra être fourni, sans toutefois compromettre les secrets d'affaires. Le contenu généré par l'IA devra être signalé. Les législateurs auraient entendu les revendications des défenseurs de l'open source comme Mistral AI et Alpha Alpha puisque leurs modèles ne seront plus soumis à d'application du règlement, sauf s'ils présentent un risque élevé ou sont utilisés à des fins interdites, comme les manipulations.

Création d'un bureau de l'IA

Les eurodéputés et le Conseil se seraient entendus sur la création d'un bureau de l'IA, envisagée les mois derniers, qui aura pour mission de faire respecter les dispositions relatives aux modèles de fondation. Les décisions prises feront l'objet d'annexes. Avant la pause, des points de désaccord entre le Conseil et les eurodéputés subsistaient encore sur la détection biométrique à distance, la reconnaissance des émotions, le profilage racial et la police prédictive et devraient être discutés aujourd'hui.