Après de nombreuses modifications et reports dus notamment à l'essor de la GenAI, l'AI ACT est entré en vigueur le 1er août 2024. Comme prévu, depuis dimanche dernier, les mesures concernant les cas d'usage interdits sont entrées en application.

L’UE a été la première à vouloir instaurer un cadre réglementaire pour l’IA, visant à réguler l’intelligence artificielle en fonction de son potentiel à causer des dommages. L'AI Act vise à garantir que les droits fondamentaux des citoyens européens, la démocratie, l’Etat de droit et la durabilité environnementale soient protégés contre les risques de l'IA.

Si son application se fera progressivement jusqu'en août 2027 et que de nouvelles lignes directrices seront publiées au fur et à mesure, depuis le 2 février dernier, les dispositions prises contre les systèmes d'IA présentant des risques inacceptables sont entrées en vigueur.

Les cas d’utilisation de l’IA interdits

Afin de préserver les droits des citoyens et la démocratie sont proscrits :
  • Les systèmes de catégorisation biométrique utilisant des caractéristiques sensibles (par exemple : opinions politiques, religieuses, philosophiques, orientation sexuelle, race) ;
  • L’extraction non ciblée d’images faciales sur Internet ou par vidéosurveillance pour créer des bases de données de reconnaissance faciale ;
  • Les systèmes permettant la reconnaissance des émotions sur le lieu de travail et les établissements d’enseignement ;
  • La notation sociale basée sur le comportement social ou les caractéristiques personnelles ;
  • Les systèmes d’IA qui visent à manipuler le comportement humain pour contourner le libre-arbitre ;
  • L’IA utilisée pour exploiter les vulnérabilités des personnes (en raison de leur âge, de leur handicap, de leur situation sociale ou économique).
Des exceptions ont toutefois été mises en place pour l’utilisation des systèmes d’identification biométrique dans les espaces accessibles au public à des fins répressives, sous réserve d’une autorisation judiciaire préalable et pour des listes d’infractions bien définies :
  • Les systèmes d’identification biométrique “à distance” seront utilisés strictement dans le cadre de la recherche ciblée d’une personne condamnée ou soupçonnée d’avoir commis un crime grave
  • L'utilisation des systèmes d’identification biométrique “en temps réel” sera limitée dans le temps et dans l’espace pour:
    • La recherche ciblée de victimes (enlèvement, traite, exploitation sexuelle) ;
    • La prévention d’une menace terroriste précise et actuelle ;
    • La localisation ou l’identification d’une personne soupçonnée d’avoir commis l’un des crimes spécifiques mentionnés dans le règlement (terrorisme, traite, exploitation sexuelle, meurtre, enlèvement, viol, vol à main armée, participation à une organisation criminelle, crime contre l’environnement).
Le Comité européen de l’IA, composé de représentants de haut niveau de la Commission européenne et de tous les États membres de l’UE, et le Bureau de l’IA, composé d'experts en technologie, juristes et économistes, sont chargés de la mise en œuvre et l’application de l'AI Act.

Le non-respect des règles qui s'appliquent à toute entité développant, mettant sur le marché ou utilisant des systèmes d'IA au sein de l'UE, pourra entraîner des amendes allant jusqu'à 35 millions d’euros ou 7 % du chiffre d’affaires mondial, en fonction de l’infraction et de la taille de l’entreprise.