Intelligence artificielle Les députés européens se prononcent pour une supervision des systèmes d’intelligence artificielle...

Pour approfondir le sujet

Sur le même thème :

La demande et l’adoption de la technologie pour assurer la sécurité du public sont en forte hausse selon une étude

Dans son rapport « Consensus for Change », Motorola Solutions, en partenariat avec une équipe de recherche universitaire indépendante dirigée par le Dr. Chris...

Intelligence artificielle et nouvelles initiatives du secteur numérique – Un débat très attendu à la Commission européenne

Cette semaine se tiendra l'un des débats les plus attendus sur les technologies d'intelligence artificielle et les nouvelles initiatives du secteur numérique. Elles seront...

Une approche européenne de l’intelligence artificielle : EIT Digital fait part de ses recommandations

EIT Digital a présenté son troisième rapport de sa série Policy Perspective. Il aborde la manière dont l'Europe devrait gérer l'intelligence artificielle et fournit...

Réglementation européenne sur l’IA : Le CEPD exprime sa réserve sur la reconnaissance faciale

La semaine dernière, la Commission européenne dévoilait sa réglementation sur l'usage de l'intelligence artificielle au sein des entreprises et institutions européennes. Le Contrôleur Européen...

Les députés européens se prononcent pour une supervision des systèmes d’intelligence artificielle et contre la surveillance de masse

Dans une résolution votée ce jour au Parlement européen, les députés ont mis en avant l’importance du contrôle humain pour la supervision de systèmes d’intelligence artificielle et d’utiliser des algorithmes ouverts. Les parlementaires se sont aussi positionnés sur l’interdiction des bases de données privées de reconnaissance faciale, la police comportementale et la notation des citoyens. La reconnaissance automatique ne devrait pas être utilisée pour le contrôle aux frontières ou dans les espaces publics.

Pour garantir le droit à la vie privée, les députés demandent des garanties solides lorsque des outils d’intelligence artificielle sont utilisés par les services répressifs.

Dans une résolution adoptée par 377 voix pour, 248 contre et 62 abstentions, les députés soulignent le risque de biais algorithmique dans les applications d’intelligence artificielle (IA) et précisent que des contrôles humains et juridiques élevés sont nécessaires pour prévenir la discrimination par l’IA, en particulier dans le cadre des services répressifs ou dans un contexte transfrontalier. Les décisions finales doivent toujours être prises par un être humain et les personnes soumises à des systèmes alimentés par l’IA doivent disposer de voies de recours, estiment les députés.

Le rapporteur Petar Vitanov (S&D, BG) a déclaré :

“Nous envoyons un message clair: les droits fondamentaux sont irrévocables. Pour la toute première fois, nous appelons à un moratoire sur le déploiement des systèmes de reconnaissance faciale à des fins répressives, ces technologies ayant démontré leur inefficacité et souvent abouti à des résultats discriminants. Nous nous opposons clairement à la police prédictive fondée sur l’utilisation de l’IA ainsi que sur tout traitement des données biométriques conduisant à une surveillance de masse. C’est une énorme victoire pour tous les citoyens européens.”

Craintes relatives aux discriminations

D’après le texte, les système d’identification basés sur l’IA commettent déjà un nombre disproportionné d’erreurs d’identification des groupes ethniques minoritaires, des personnes LGBTI, des personnes âgées et des femmes, ce qui est préoccupant dans le contexte de l’application de la loi et du système judiciaire.

Pour garantir le respect des droits fondamentaux lorsque ces technologies sont utilisées, les algorithmes devraient être transparents, traçables et suffisamment documentés, demandent les députés. Lorsque cela est possible, les autorités publiques devraient utiliser des logiciels libres afin d’accroître la transparence.

Technologies controversées

Pour respecter la vie privée et la dignité humaine, les députés demandent une interdiction permanente de la reconnaissance automatisée des individus dans les espaces publics, faisant remarquer que les citoyens ne devraient être surveillés que lorsqu’ils sont soupçonnés d’un crime.

Le Parlement demande d’interdire l’utilisation de bases de données privées de reconnaissance faciale (comme le système Clearview AI, qui est déjà utilisé) et la police prédictive basée sur des données comportementales.

Par ailleurs, les députés veulent interdire les systèmes de notation sociale qui tentent d’évaluer la fiabilité des citoyens en fonction de leur comportement ou de leur personnalité.

Enfin, le Parlement s’inquiète de l’utilisation des données biométriques pour l’identification à distance. Par exemple, les portiques de contrôle frontalier basés sur la reconnaissance automatique et le projet iBorderCtrl (un “système intelligent de détection de mensonges” pour l’entrée des voyageurs dans l’UE) devraient être abandonnés, estiment les députés, qui invitent la Commission européenne à ouvrir des procédures d’infraction contre les États membres si nécessaire.

 
Thomas Calvi

Partager l'article

IA et Musique : Soundcloud, plateforme de streaming audio musicale, annonce l’acquisition de Musiio

L'IA pour la musique est un sujet qui passionne, nous lui avons d'ailleurs consacré un dossier dans le dernier numéro d'ActuIA, actuellement en vente...

Focus sur la solution Tekimpact qui vise à accélérer l’innovation technologique des entreprises

La SATT CONECTUS, société alsacienne d'accélération du transfert de technologie, et la startup TEKIMPACT ont signé une licence exclusive pour l’exploitation mondiale d’une technologie...

Transition énergétique : Autogrid annonce son rachat par Schneider Electric

Début, Autogrid, société pionnière de l'optimisation basée sur l'IA pour les ressources énergétiques distribuées (RED), qui s'est donné pour mission d'accélérer l'accès aux énergies...

Atos annonce le lancement d’« Atos Business Outcomes-as-a-service » développé en collaboration avec Dell Technologies

Début mai, Atos a annoncé le lancement d’Atos Business Outcomes-as-a-Service ( Atos BOaaS ), une offre 5G, Edge et IoT développée conjointement avec Dell...
Recevoir une notification en cas d'actualité importante    OK Non merci