Actualité Des chercheurs créent une IA capable d'évaluer et de prendre des décisions

Pour approfondir le sujet

Recherche en IA : IBM et le MIT annoncent l’ouverture d’un nouveau laboratoire

IBM et le MIT viennent d'annoncer la création d'un nouveau laboratoire commun dédié à l'intelligence artificielle. Ce projet fera l'objet d'un investissement d'un montant...

L’intelligence artificielle est-elle raciste, sexiste et homophobe ?

Nous allons tenter, dans cet article, de passer en revue les différentes intentions ou pensées controversées qui sont souvent prêtées à l'intelligence artificielle. L'intelligence artificielle...

Visionnez le lancement de la déclaration de Montréal IA Responsable en direct

La déclaration de Montréal IA responsable est constituée d'un ensemble de 10 principes et 60 sous-principes destinés à prôner une IA responsable. Cette déclaration...

Des chercheurs créent une IA capable d’évaluer et de prendre des décisions

L’intelligence artificielle soulève de nombreuses questions, notamment éthiques et morales. Une équipe de chercheurs du MIT a créé il y a un an le site Moral Machine qui reprend le dilemme du tramway adapté à la voiture autonome. Ces tests, auxquels tout le monde peut participer, ont permis la création d’une intelligence artificielle capable de faire des choix moraux.

Le dilemme du tramway adapté à la voiture autonome

Le dilemme du tramway est une expérience de pensée utilisée notamment en sciences cognitives et en éthique. Décrite en 1967 par Philippe Foot, elle a été analysée par la suite par Judith Jarvis Thomson, Peter Unger et Frances Kamm. Il s’agit d’imaginer un tramway ne pouvant pas s’arrêter, vous pouvez seulement actionner un levier permettant au train d’aller sur des voies à droite ou à gauche. Dans les deux cas cela entraîne la mort d’un ou de plusieurs personnes. Vous devez donc décider comment il convient d’agir.

Sur leur site Moral Machine, les chercheurs du MIT ont donc reproduit ce dilemme avec une voiture autonome. Doit-elle choisir la voie de gauche ou celle de droite? Qui doit-elle sacrifier, quelle loi doit-elle suivre? Qu’est-ce qui est plus éthique?

Moral Machine

Dans un article de The Outline, Iyad Rahwan, chercheur au MIT à l’origine du projet Moral Machine, et Ariel Procaccia, professeur à Carnagie Mellon, expliquaient comment ils ont créé une IA à partir des réponses à ce test.

Une intelligence artificielle pouvant prendre des décisions après évaluation de la situation

Environ 18 millions de votes ont été validés sur la plate-forme et les créateurs de Moral Machine estiment que près de 1,3 millions de personnes ont voté. Le succès a été tel que les données enregistrées ont servi à Iyad Rahwan et Ariel Procaccia pour créer une IA pouvant évaluer une situation avant de prendre une décision. Celle-ci se base sur un algorithme conçu à partir des choix des participants à Moral Machine.

Le machine learning a permis aux deux chercheurs de développer leur IA pour qu’elle puisse également comprendre par elle-même. Ainsi, si l’IA n’est pas familière d’une situation, elle peut tout de même l’analyser. Ariel Procaccia expliquait toutefois à The Outline:

“Nous ne disons pas que le système est prêt à être utilisé en conditions réelles. Mais c’est une démonstration de faisabilité, qui montre que la démocratie peut aider dans les grandes problématiques éthiques qui existent sur la conception de l’IA.”

Selon les chercheurs, leur intelligence artificielle reflète les choix des participants. S’ils ont préféré laisser mourir une personne plutôt que cinq, le choix de l’IA sera donc conforme au choix humain. Vous pouvez toujours participer au test et prendre part à ce débat.

Johanna Diaz

Partager l'article

Transformation cloud et digitale : Thales élargit son écosystème de partenaires technologiques

Thales a dévoilé de nouveaux partenaires pour aider notamment les entreprises à accélérer, réduire les risques cyber et sécuriser les initiatives de transformation numérique....

Focus sur le projet APRIORICS de l’IUCT-O Toulouse : IA et médecine personnalisée pour lutter contre le cancer du sein

Le projet APRIORICS (Apprentissage Profond Renforcé par l’ImmunohistOchimie pour la Requalification d’Images de Cancers du Sein) a pour objectif d’utiliser l’intelligence artificielle afin de décrire...

Focus pays : Webinaire « L’intelligence artificielle, instrument de relance économique en Tunisie ? »

Le 29 juillet dernier, le ministère de l'industrie et des PME, en collaboration avec le projet Innov’i – EU4Innovation, a organisé un webinaire réunissant...

Le corpus d’articles arXiv est désormais disponible sur Kaggle

Le corpus d'articles arXiv permet depuis plus de 30 ans à la communauté de chercheurs et au public d'avoir accès aux articles scientifiques dans...