Intelligence artificielle Concevoir des algorithmes et des modèles de Machine Learning plus éthiques :...

Pour approfondir le sujet

Sur le même thème :

Le colloque DRIAS évoquera les responsabilités éthiques, juridiques et techniques des outils d’IA en santé

Les 21 et le 22 juin prochains aura lieu le Colloque DRIAS (Droit, IA et Santé), une initiative coorganisée par l'Institut de Recherche en...

Le programme Confiance.ai dévoile de premiers résultats significatifs avec 6 cas d’usage pratiques

Lancé en janvier 2021, le programme Confiance.ai est un pilier technologique du Grand Défi « sécuriser, certifier et fiabiliser les systèmes fondés sur l'intelligence...

Traiter les enjeux éthiques et sociétaux de l’IA : 3 questions à Hélène Chinal et François Taddei

Impact AI, collectif de réflexion et d’action constitué d’un ensemble d’acteurs de l’intelligence artificielle, réunis autour de deux objectifs communs : traiter des enjeux...

AMLD Africa : un évènement digital sur trois jours pour évoquer l’application du machine learning sur le continent africain

L’Ecole Polytechnique Fédérale de Lausanne (EPFL) va organiser AMLD Africa, un évènement qui se déroulera du 2 au 4 septembre prochain. Il s'agit de...

Concevoir des algorithmes et des modèles de Machine Learning plus éthiques : 3 questions à Michael Kearns

Michael Kearns, professeur de sciences informatique et de l’information à l’Université de Pennsylvanie, travaille notamment sur les sujets de l’apprentissage automatique, de la théorie algorithmique du jeu et de la finance quantitative. Membre élu de la National Academy of Sciences, de l’American Academy of Arts and Sciences, de l’Association for Computing Machinery, de l’Association for the Advancement of Artificial Intelligence et de la Society for the Advancement of Economic Theory, il interviendra en tant que conférencier lors du premier Machine Learning Summit virtuel d’Amazon Web Services qui se tiendra le 2 juin 2021.

Le premier Machine Learning Summit d’Amazon Web Services (AWS) réunira le 2 juin prochain des clients, des développeurs et la communauté scientifique pour en apprendre davantage sur les progrès de la pratique du Machine Learning (ML). Cet événement gratuit explorera quatre grandes thématiques dont la science du Machine Learning, qui mettra en lumière le travail effectué par les scientifiques AWS et Amazon pour faire progresser le ML.

Dans les semaines à venir, Amazon Science proposera des entretiens avec des intervenants sur la thématique de la science du Machine Learning. Pour la deuxième édition de la série, nous nous sommes entretenus avec Michael Kearns, Amazon Scholar et professeur de sciences informatique et de l’information à l’Université de Pennsylvanie. 

Michael Kearns est le co-auteur du livre, “The Ethical Algorithm: The Science of Socially Aware Algorithm Design”, paru en 2019. Cet ouvrage explore la science de la conception d’algorithmes qui intègrent des normes sociales telles que l’équité et la confidentialité dans leur code pour protéger les humains des impacts involontaires provoqués par les algorithmes. Il est également le directeur fondateur du Warren Center for Network and Data Sciences – un centre de recherche qui cherche à comprendre le rôle des données et des algorithmes dans la formation de systèmes sociaux, économiques et technologiques interconnectés.

Quel sera le sujet de votre conférence lors du Machine Learning Summit d’AWS ?

De récentes recherches ont été publiées par la communauté ML pour aider à concevoir des algorithmes et des modèles plus « éthiques ». C’est-à-dire des approches qui obéissent à des normes sociales importantes telles que l’équité, l’explicabilité (l’obligation d’explication des décisions algorithmiques) et la confidentialité, tout en nous permettant de tirer parti des avantages de l’intelligence artificielle et du ML.

Par exemple, le dense référentiel algorithmique, connu sous le nom de confidentialité différentielle, est une méthode puissante qui permet d’ajouter des éléments aléatoires aux calculs afin de développer des modèles de Machine Learning tout en offrant de solides garanties de confidentialité individuelle.

De plus, des algorithmes de Machine Learning ont été récemment développés en se basant sur la théorie des jeux. Celle-ci peut servir à renforcer les notions d’équité de groupe relatives à l’ethnie ou au genre. Cette théorie repose essentiellement sur des domaines mathématiques qui s’intéressent aux interactions stratégiques et aux résultats collectifs dans des systèmes où les individus interagissent les uns avec les autres. Les réseaux antagonistes génératifs (en anglais Generative Adversarial Networks ou GAN) sont un modèle dans lequel deux réseaux sont placés en compétition dans un scénario de théorie des jeux. Le premier réseau appelé générateur, produit un échantillon de données proche de l’ensemble de données réel, tandis que le discriminateur détecte si un échantillon est réel ou s’il est le résultat du générateur. 

Pourquoi ce sujet est-il particulièrement pertinent au sein de la communauté scientifique aujourd’hui ?

Tout le monde a remarqué les préoccupations croissantes de notre société concernant les méfaits et les abus potentiels de l’intelligence artificielle et du Machine Learning. 

Si ces préoccupations appellent à un renforcement des lois et des réglementations relatives à la technologie, la science que j’aborderai au cours de mon intervention le 2 juin lors du Summit ouvre la voie à une solution alternative et complémentaire : la conception d’algorithmes et de modèles plus éthiques qui se “comportent mieux” dès le départ.

Une partie de cette science est relativement mature – avec notamment la confidentialité différentielle évoquée précédemment. D’autres approches commencent à émerger, comme les efforts visant à rendre les modèles de ML plus « interprétables » ou « explicables ». Nous devons davantage explorer ces sujets pour développer une compréhension comportementale plus approfondie sur la façon dont les gens utilisent et interprètent les modèles prédictifs.

Alors que nous forgeons une nouvelle science de la conception d’algorithmes plus éthiques, quels sont les trois développements que vous trouvez passionnants ?

La science relative au ML ouvre réellement la voie à un nouvel ensemble de techniques algorithmiques qui équilibrent nos objectifs de précision et d’utilité avec certaines des principales préoccupations sociétales liées à l’IA et au ML.

Par ailleurs, nous commençons à voir des adoptions à grande échelle de cette science dans des applications concrètes. Par exemple, l’adoption par le Bureau du recensement américain en 2020 de la confidentialité différentielle ou le nouveau service Amazon SageMaker Clarify, qui permet la détection de biais dans les modèles ML et la compréhension des prédictions des modèles

Enfin, au cours de la dernière décennie, nous avons vu émerger une communauté véritablement interdisciplinaire autour de ces problèmes, qui comprend et a besoin de chercheurs en ML, d’experts juridiques et réglementaires, de législateurs, de spécialistes des sciences sociales, de groupes de défense des libertés et même de philosophes. Cela rend le travail sur ces sujets amusant, passionnant, éducatif – et au final incroyablement impactant.

Vous pouvez assister à la conférence de Michael Kearns lors du Machine Learning Summit virtuel d’Amazon Web Services le 2 juin en vous inscrivant à l’événement. Si vous souhaitez être informé.e de l’ouverture des inscriptions, rendez-vous sur le site de l’évènement.


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Johanna Diaz

Partager l'article

Ce modèle de machine learning détecte les contaminations microbiennes dans les cultures cellulaires

Les chercheurs de l’Alliance Singapour-MIT pour la Recherche et la Technologie (SMART) à Singapour, ont développé un modèle de détection d’anomalies qui utilise le...

Etude du Centre Hubertine Auclert sur « Les freins à l’accès des filles aux filières informatiques et numériques »

De nombreuses études sont menées tout au long de la scolarité des élèves, certaines se rapportent à la réussite scolaire des filles et leurs...

Le Conseil de l’UE invite les Etats Membres à poursuivre leurs efforts dans la lutte contre le terrorisme

Début juin, le Conseil de l'UE a adopté des conclusions sur les actions accomplies et les prochaines étapes à franchir pour assurer la protection...

Village by CA Paris dévoile les duos lauréats des « Village Awards 2022 »

Le 30 juin dernier, le Village by CA Paris a organisé la cinquième édition des Village Awards en collaboration avec Les Echos Entrepreneurs et...
Recevoir une notification en cas d'actualité importante    OK Non merci