Intelligence artificielle Des chercheurs créent une IA capable d'évaluer et de prendre des décisions

Pour approfondir le sujet

Sur le même thème :

Concevoir des algorithmes et des modèles de Machine Learning plus éthiques : 3 questions à Michael Kearns

Michael Kearns, professeur de sciences informatique et de l'information à l'Université de Pennsylvanie, travaille notamment sur les sujets de l'apprentissage automatique, de la théorie algorithmique...

L’intelligence artificielle au service de la lutte contre l’exploitation sexuelle sur internet

Les travaux autour de la conception d'outils d'IA pour limiter les cas de harcèlements ou de trafics en ligne tendent à se multiplier à...

Le Comité national pilote d’éthique du numérique donne son avis sur les véhicules autonomes

Dans une lettre datée du 15 juillet 2019, l'ancien premier ministre, Edouard Philippe, demandait au président du Comité consultatif national d'éthique (CCNE) de mettre...

Le projet CETI : comprendre la langue des cachalots grâce à des outils d’intelligence artificielle

Comprendre la langue utilisée par les animaux est un des enjeux de certains scientifiques : c'est notamment le cas de Denise Herzing qui étudie,...

Des chercheurs créent une IA capable d’évaluer et de prendre des décisions

L’intelligence artificielle soulève de nombreuses questions, notamment éthiques et morales. Une équipe de chercheurs du MIT a créé il y a un an le site Moral Machine qui reprend le dilemme du tramway adapté à la voiture autonome. Ces tests, auxquels tout le monde peut participer, ont permis la création d’une intelligence artificielle capable de faire des choix moraux.

Le dilemme du tramway adapté à la voiture autonome

Le dilemme du tramway est une expérience de pensée utilisée notamment en sciences cognitives et en éthique. Décrite en 1967 par Philippe Foot, elle a été analysée par la suite par Judith Jarvis Thomson, Peter Unger et Frances Kamm. Il s’agit d’imaginer un tramway ne pouvant pas s’arrêter, vous pouvez seulement actionner un levier permettant au train d’aller sur des voies à droite ou à gauche. Dans les deux cas cela entraîne la mort d’un ou de plusieurs personnes. Vous devez donc décider comment il convient d’agir.

Sur leur site Moral Machine, les chercheurs du MIT ont donc reproduit ce dilemme avec une voiture autonome. Doit-elle choisir la voie de gauche ou celle de droite? Qui doit-elle sacrifier, quelle loi doit-elle suivre? Qu’est-ce qui est plus éthique?

Moral Machine

Dans un article de The Outline, Iyad Rahwan, chercheur au MIT à l’origine du projet Moral Machine, et Ariel Procaccia, professeur à Carnagie Mellon, expliquaient comment ils ont créé une IA à partir des réponses à ce test.

Une intelligence artificielle pouvant prendre des décisions après évaluation de la situation

Environ 18 millions de votes ont été validés sur la plate-forme et les créateurs de Moral Machine estiment que près de 1,3 millions de personnes ont voté. Le succès a été tel que les données enregistrées ont servi à Iyad Rahwan et Ariel Procaccia pour créer une IA pouvant évaluer une situation avant de prendre une décision. Celle-ci se base sur un algorithme conçu à partir des choix des participants à Moral Machine.

Le machine learning a permis aux deux chercheurs de développer leur IA pour qu’elle puisse également comprendre par elle-même. Ainsi, si l’IA n’est pas familière d’une situation, elle peut tout de même l’analyser. Ariel Procaccia expliquait toutefois à The Outline:

“Nous ne disons pas que le système est prêt à être utilisé en conditions réelles. Mais c’est une démonstration de faisabilité, qui montre que la démocratie peut aider dans les grandes problématiques éthiques qui existent sur la conception de l’IA.”

Selon les chercheurs, leur intelligence artificielle reflète les choix des participants. S’ils ont préféré laisser mourir une personne plutôt que cinq, le choix de l’IA sera donc conforme au choix humain. Vous pouvez toujours participer au test et prendre part à ce débat.


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Johanna Diaz

Partager l'article

Levée de fonds de 6 millions d’euros de la fintech lyonnaise Mon Petit Placement

Mon Petit Placement, start-up lancée en 2017, a bouclé en ce mois de novembre sa troisième levée de fonds pour un montant de 6...

Lutte contre la cybercriminalité : l’exemple du défi IA lancé par le gouvernement canadien aux petites entreprises

Comme les autres organismes de police canadiens, la Gendarmerie royale du Canada (GRC) peine à accéder aux données chiffrées saisies lors d'enquêtes criminelles. C'est...

Continuity annonce une levée de fonds de 5 millions d’euros auprès d’Elaia Partners, Bpifrance et Kamet Ventures

Continuity a levé 5 millions d’euros en Seed auprès d'Elaia Partners, Bpifrance et Kamet Ventures a annoncé la jeune pousse cette semaine. La start-up...

ADAM9, un gène potentiellement impliqué dans les formes graves de Covid-19 identifié par l’intelligence artificielle

Pourquoi certains patients atteints de Covid-19 sont-ils asymptomatiques alors que d'autres développent des formes graves, notamment le SDRA (syndrome de détresse respiratoire aigüe) ?...
Recevoir une notification en cas d'actualité importante    OK Non merci