Intelligence artificielle XXII lance une charte éthique pour l’édition de logiciels d’IA

Pour approfondir le sujet

Sur le même thème :

Robots tueurs : les Nations Unies peinent à poser un cadre juridique à l’emploi des armes létales autonomes

Dès 2013, les Systèmes d'Armes Létales Autonomes (SALA) ont fait l'objet de discussions lors de la Convention des Nations Unies portant sur les Armes...

IA et sport : l’OGC Nice compte sur les solutions de Stats Perform pour l’analyse et le recrutement

Stats Perform, l'un des leaders en matière de technologie des données et d'intelligence artificielle dans le domaine du sport, a conclu le 1er décembre...

La CNIL lance une consultation publique sur l’usage des caméras intelligentes dans les espaces publics

Devant la recrudescence des caméras intelligentes ou augmentées dans les espaces publics et les problèmes éthiques ou juridiques que ces dispositifs posent, la CNIL,...

Focus sur le robot SAMI 4.0 comme solution à la pénurie de main-d’œuvre agricole au Québec

Il y a une dizaine de jours, M. Pierre Fitzibbon, ministre de l’Économie et de l'Innovation, accompagné de Mme Danielle McCann, ministre de l'Enseignement...

XXII lance une charte éthique pour l’édition de logiciels d’IA

L’Intelligence Artificielle est en plein essor et les technologies qu’elle a permis de développer, en évolution constante. Les problèmes éthiques que peuvent poser leur utilisation est au cœur des débats. XXII, entreprise spécialisée des Deep technologies, a annoncé la création d’une charte éthique pour l’édition de logiciels d’IA en interne et encourage l’ensemble de l’écosystème d’IA à l’adopter.

Les gouvernements travaillent à une IA éthique, morale et digne de confiance. Différentes initiatives ont été lancées au niveau français et européen : dans le cadre de la stratégie nationale pour l’IA, du nouveau projet de règlement de la Commission Européenne, du Partenariat Mondial sur l’IA (PMIA). Les biais des algorithmes peuvent entraîner des discriminations, du sexisme, de la malveillance… La vision par ordinateur est souvent incriminée, notamment pour sa technologie de reconnaissance faciale.

Le groupe XXII

XXII, société créée en 2015 par William Eldin et Dan Mulhem, est un des leaders français dans l’édition de logiciels de vision par ordinateur. Sa plateforme SaaS de déploiement et de paramétrage d’algorithmes pour l’analyse vidéo en temps réel XXIICORE est utilisée par les villes, les parcs de loisirs, les stades, les aéroports, les gares, les entreprises…

La charte éthique

Partant du constat que les solutions de vision par ordinateur soulèvent de nombreuses craintes, William Eldin, CEO et cofondateur de XXII, a travaillé avec entre le comité éthique de l’entreprise et un groupe d’experts externes constitué de philosophes spécialistes de l’IA, de membres de la sécurité publique, d’associations, d’étudiants passionnés par l’éthique et l’IA à l’établissement de cette charte. Il explique :

«L’intelligence artificielle nous offre aujourd’hui cette opportunité d’augmenter les sens, notamment la vision. En améliorant et en décuplant les performances machine, la vision assistée par ordinateur affranchit l’humain des tâches les plus complexes et fastidieuses, lui permettant ainsi de se concentrer sur des missions créatives et stimulantes. Cependant, pour éviter toute dérive, nous nous devons d’encadrer notre démarche technologique en toute transparence ; au travers d’un engagement éthique de l’utilisation de l’IA.»

Il ajoute :

«Les principes que nous avons fixés sont notre ligne de conduite à tous niveaux de l’entreprise. Ils seront respectés, appliqués et incarnés pour valoriser le savoir-faire technologique avec exemplarité.»

Pour XXII, l’exploitation de l’intelligence artificielle doit être réalisée dans le respect des droits fondamentaux et des libertés individuelles, les solutions doivent intégrer l’éthique dès leur conception. Il faut en mesurer les impacts, les anticiper et veiller à ce que les finalités d’utilisation des outils soient responsables. C’est pourquoi la société a décidé la mise en place de cette charte définissant les principes de conduite du développement de ses solutions.

Les 5 principes de la charte

  • Le principe de bienfaisance
    Il implique de s’assurer que l’intelligence artificielle permet de renforcer le bien-être individuel et collectif de la société ainsi que le bien commun. Ce principe implique également de s’assurer que l’IA est porteuse d’innovation et de progrès en limitant les impacts négatifs sur le bien-être des citoyens, l’impact environnemental et la consommation énergétique.
  • Le principe de non-malfaisance
    Nos produits d’intelligence artificielle ne doivent ni porter atteinte, ni nuire, ni aggraver une situation, au vivant de quelque manière que ce soit. Les systèmes que nous mettons en place ne doivent en aucun cas menacer l’intégrité physique, morale ou psychologique de qui que ce soit, tout en étant sûrs et sécurisés pour l’utilisateur.
  • Le principe d’autonomie
    L’utilisateur doit être en complète capacité de conserver son pouvoir de décision dans le cas d’utilisation d’intelligence artificielle. La vision par ordinateur ne doit pas contraindre, tromper ou manipuler l’utilisateur. Bien au contraire, cet outil doit aider, soutenir, favoriser l’autonomie de ses utilisateurs finaux.
  • Le principe de justice
    L’intelligence artificielle ne doit en aucune circonstance être biaisée et ne doit pas porter préjudice à l’être humain. XXII effectue des contrôles réguliers sur la finalité, les contraintes, les exigences et les résultats des systèmes fournis.
  • Le principe d’explicabilité et de transparence
    Ces deux notions nécessitent de mettre à disposition une documentation approfondie des solutions et technologies d’intelligence artificielle développées, déployées par XXII et utilisées par ses clients.

William Eldin explique :

«Cette charte éthique XXII énonce les grands principes de comportements individuels et collectifs qui doivent guider chaque collaborateur, quelle que soit sa fonction ou son titre au quotidien. Cette charte est la base d’un questionnement que nous voulons permanent et l’expression de notre volonté de progresser. L’objectif étant de faire évoluer continuellement nos logiciels et d’être transparent dans notre façon de développer nos produits.»

«Parce qu’un écosystème technologique bienveillant doit émerger en France et en Europe pour favoriser la confiance dans le numérique et plus précisément dans l’Intelligence Artificielle.», XXII espère que la publication de cette charte interrogera l’écosystème d’IA et l’amènera à adopter une démarche éthique respectueuse du grand public.


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Pierre-yves Gerlat

Partager l'article

I-Stem, Généthon et Kantify découvrent une thérapie prometteuse contre les maladies génétiques

Les équipes d’I-Stem et de Généthon, laboratoires de l’Association Française contre les Myopathies (AFM-Téléthon), ont collaboré avec la start-up belge Kantify, spécialisée dans le...

La finale de « Ma thèse en 180 secondes » aura lieu à Lyon le 31 mai prochain

« Ma thèse en 180 secondes » concours qui s'inspire de « Three minute Thesis », conçu à l'Université du Queensland, en Australie, est...

CentraleSupélec et SystemX lancent l’Alliance CircularIT pour mettre le numérique au service de l’économie circulaire

Le 10 mai dernier, CentraleSupélec et l’IRT SystemX ont annoncé la création d'« Alliance CircularIT » afin de « mettre la puissance du numérique...

Le Val de Marne mise sur l’intelligence artificielle pour améliorer son réseau d’assainissement

En novembre 2020, l’agence de l’eau Seine-Normandie lançait l'appel à projets innovation pour la gestion de l’eau, « Transition numérique et économie circulaire »...
Recevoir une notification en cas d'actualité importante    OK Non merci