IA : vers une fin des biais sexistes de la société ?

    IA : vers une fin des biais sexistes de la société ?
    Actu IA
    Caroline Lair
    Caroline Lair est co-fondatrice de Women in AI

    Au cours de l’édition 2019 de VivaTech, rendez-vous incontournable de l’Intelligence Artificielle (IA), un grand nombre de tables rondes se sont penchées sur le sujet du gender gap dans la Tech. Le WFE indique ainsi que seuls 22 % des professionnels de l’industrie de l’IA sont des femmes en 2018. Dans les laboratoires de recherches, on tombe à 18 %*.

    Comment expliquer cette disparité ? Par le fait que la Tech reste considérée comme un domaine masculin ; or les stéréotypes de genre ont un impact certain sur le comportement des femmes. Celles-ci ne sont, par conséquent, pas poussées à étudier les STEM (science, technologie, ingénierie et mathématiques) et à embrasser les carrières technologiques.

    L’entraînement des IA : un enjeu de civilisation

    Le développement de l’IA nous place aujourd’hui à une croisée des chemins civilisationnelle. Le concept de l’IA est en effet de rendre les machines capables de reproduire certains comportements humains, tels que la capacité à comprendre une langue ou à reconnaître une image. Pour y parvenir, des humains entraînent les machines en leur transmettant des connaissances. Or, comme lors de l’éducation des enfants, les « adultes » transmettent nécessairement leur propre vision et compréhension du monde, fondées sur une histoire et une culture. En un mot : une vision particulière, qui comporte certains biais.

    De la même manière qu’un enfant, une IA va donc reproduire une image de notre société, en fonction de ce qui aura constitué son entraînement : un choix de données, une méthode d’entraînement ou encore les paramètres d’un algorithme. Il est donc illusoire d’imaginer une IA qui ne soit pas biaisée, comme si elle pouvait émaner d’un état de nature. En ce qu’elle découle des humains, elle est par conséquent plongée dès l’origine dans un état de culture : celle de ceux qui l’ont développée.

    La menace d’IA sexistes

    Or, aujourd’hui, le rang des scientifiques qui développent ces intelligences artificielles est majoritairement composé d’hommes — blancs et occidentaux. Il n’y a encore que peu de femmes impliquées dans « l’éducation » des intelligences artificielles. Dans cette configuration, le risque est grand de voir se développer des IA qui répliquent les biais inconscients de leurs créateurs — en un mot, des IA sexistes. Car, si l’on entraîne les IA sans prendre garde aux types de valeurs qu’on leur transmet, et sans identifier — et surtout corriger — les biais qui existent dans la société – sexisme, bien sûr, mais aussi racisme, homophobie – pourquoi les IA se comporteraient-elles différemment ? Puisqu’elles ne font que reproduire ce qu’on leur apprend ?

    Sans prise de conscience, le risque serait de voir les IA non seulement reproduire ses biais, mais encore les amplifier. Car, au contraire des enfants qui peuvent douter, une fois lancée, une IA automatise à grande échelle des prises de décision ; sans remettre en question les erreurs qu’elle pourrait faire. L’impact s’en ressentirait dans tous les aspects de nos vies : il faut en effet avoir conscience que demain, les IA auront partie liée aux décisions majeures telles que l’embauche, la santé, la justice, l’éducation, l’information. La création et le contrôle des IA seront une source d’influence et de pouvoir prééminente. Les femmes, qui — rappelons-le toujours — représentent la moitié de l’humanité ont donc plus que jamais besoin de participer à la révolution de l’IA qui s’ouvre. À défaut, elles risquent bien, à nouveau, d’être les laissées-pour-compte de ce tournant de l’Histoire.

    Éduquer les IA à déjouer les biais

    Pour autant, il ne faut pas s’appesantir sur le risque potentiel, mais saisir au contraire l’opportunité unique que l’Intelligence Artificielle nous offre, non pas de reproduire des biais, mais de les corriger. Si ces biais sont ancrés dans nos cerveaux depuis des générations, rien n’oblige à faire de même dans les IA !

    En identifiant ces biais, et en entraînant les IA et leurs algorithmes en conséquence, c’est-à-dire à les reconnaître et à les corriger, on pourrait parvenir, en l’espace de quelques générations, à les atténuer voire les supprimer de la société même. Cela suppose d’établir une réglementation internationale éthique des IA, en s’accordant sur un ensemble de valeurs humanistes de justice et

    d’égalité, que doivent promouvoir ces IA. C’est un sujet sur lequel travaillent déjà des organisations mondiales telles que l’UE ou l’UNESCO.

    Le débat autour du potentiel des IA met en lumière les préoccupations fondamentales de l’humanité ; en premier lieu desquelles l’injustice. Assurer que les IA améliorent la société tout entière passe par une réglementation et une régulation éthique de l’industrie, et l’augmentation de la participation des femmes à leur création. Mais comment y parvenir ? En valorisant les role model existants, d’abord, pour donner des exemples aux plus jeunes. Par l’éducation, ensuite, en encourageant les jeunes filles à étudier les STEM pour constituer les expertes de demain. Par la solidarité, enfin, afin que la prochaine génération profite du soutien de ses aînées, et que celles-ci les accompagnent pour faire grossir leurs rangs. C’est ainsi que les femmes pourront prendre la place qui leur est due et participer à la reconfiguration du monde. Car aider les femmes à prendre leur destin en main, c’est, finalement, saisir l’opportunité qu’offre l’Intelligence Artificielle de façonner une société plus juste.

    * https://www.elementai.com/news/2019/2019-global-ai-talent-report