L’Institute for ethics in artificial intelligence, le nouveau centre de recherche de Facebook et de l’Université technique de Munich

L’Institute for ethics in artificial intelligence, le nouveau centre de recherche de Facebook et de l
Actu IA
Facebook Ethics Munich
Hauptgebäude der TU München Haupteingeng Arcisstr. 21 Foto: Andreas Heddergott / Verwendung frei fuer die Berichterstattung ueber die TU Muenchen unter Nennung des Copyrights

L’éthique est une problématique plus que jamais au centre des préoccupations liées au développement considérable de la recherche et des applications basées sur l’intelligence artificielle. Et en matière de protection de la vie privée et des données personnelles, Facebook est souvent pointé du doigt. Le 20 janvier dernier, le géant des réseaux sociaux a annoncé la création d’un centre de recherche dédié à l’éthique de l’intelligence artificielle (IA) en partenariat avec l’Université technique de Munich, en Allemagne.

Baptisé Institute for ethics in artificial intelligence, ce centre a pour objectif de mener des « recherches indépendantes et scientifiques pour apporter des connaissances et des conseils à la société, l’industrie, les législateurs et les décisionnaires des secteurs privé et public ». Facebook investira près de 6,6 millions d’euros dans cet institut qui vise également à mettre en oeuvre des « cadres, méthodologies et approches algorithmiques » à destination des chercheurs, développeurs et data scientists.

L’Institute for ethics in artificial intelligence sera dirigé par Christoph Lütge, chercheur à l’Université technique de Munich et spécialiste en philosophie, informatique et économie. Il devrait employer une dizaine de personnes, de disciplines variées :

« Les problèmes éthiques ne doivent pas être résolus uniquement par des chercheurs en IA, explique Joaquin Quiñonero Candela, directeur de l’apprentissage automatique appliqué chez Facebook. Comprendre l’impact de ces technologies sur la société nécessite un groupe de personnes très varié. »

Aucun chercheur de Facebook n’en fera partie car « le risque serait qu’ils influencent, volontairement ou non, la direction et les conclusions des recherches. »

« L’IA pose des problèmes complexes auxquels l’industrie ne peut pas répondre seule »

Lors de l’annonce, Joaquin Quiñonero Candela a également précisé que l’Institute for ethics in artificial intelligence allait être « complètement indépendant » :

« Nous n’aurons pas d’autorité exécutive, nous n’imposerons pas les sujets de recherche. Nous apportons le financement, et nous sommes disponibles pour donner notre avis. »

Facebook consultera l’institut, notamment avant le lancement de nouveaux services :

« Quand on crée un produit, on a des mécanismes de consultation. On invite des experts de différents domaines qui nous donnent leur avis. Evidemment que nous demanderons celui de cet institut, mais il n’y aura pas que lui à nous conseiller. »

Quant au choix de l’Allemagne, et donc de l’Europe, pour installer ce centre, en partenariat avec l’Université technique de Munich, Joaquin Quiñonero Candela souligne :

Il est « essentiel que ce ne soit pas une vision uniquement américaine. […] Aux Etats-Unis, il y a moins de régulation, ce qui génère un état d’esprit différent. Ce serait une erreur de travailler seulement avec des instituts d’éthique américains. De plus, l’Europe est un des lieux d’expertise en philosophie et en éthique, avec son histoire bien plus longue que les Etats-Unis. Et elle ouvre la voie sur la régulation, avec le RGPD par exemple, sur la protection des données. »

Facebook, également membre de Partnership on AI avec notamment Google, Apple, Microsoft et Amazon, veut ainsi mettre en avant sa volonté d’avancer sur les questions d’éthique.