Intelligence artificielle La nouvelle édition du rapport AI100 évoque les risques et l'impact sociétal...

Pour approfondir le sujet

Sur le même thème :

IA et Géopolitique : le comité AIDA du parlement européen propose son approche innovante sur le sujet

Le comité Artificial Intelligence in a Digital Age (AIDA) lié au parlement européen propose une étude sur l'intelligence artificielle et la diplomatie européenne. Intitulé...

La société Dydu publie son enquête autour des robots conversationnels et des outils de selfcare

Dydu, une entreprise spécialisée dans les robots conversationnels, vient de publier les résultats de la cinquième édition de son étude annuelle sur les chatbots,...

DELPHI : un framework du MIT utilisant le machine learning pour estimer l’impact d’un article scientifique

Deux chercheurs du Massachussets Institue of Technology (MIT) ont développé un framework grâce à l'intelligence artificielle. Basée sur le machine learning, cette infrastructure logicielle...

Intelligence artificielle pour le contrôle et la gestion des frontières : Focus sur le rapport de Frontex

Frontex, l'agence européenne de gardes-frontières et de gardes-côtes, est en charge du contrôle et de la gestion des frontières extérieures de l'espace Schengen. Dans...

La nouvelle édition du rapport AI100 évoque les risques et l’impact sociétal de l’IA dans les prochaines années

En 2016, le projet AI100 a été lancé afin de suivre les tendances de l’IA au cours d’un siècle, jusqu’en 2116. Ainsi, un premier rapport a été publié qui a permis de minimiser les inquiétudes existantes autour d’une IA autonome de type science-fiction. Cette année, un panel de dix-sept chercheurs et experts de l’Université de Stanford et d’autres horizons propose une seconde version de ce rapport qui indique que le domaine a atteint un tournant où l’attention doit être portée aux applications quotidiennes de l’IA et aux manières dont cette technologie est utilisée.

Une seconde mise à jour du rapport AI100, le projet qui suit les tendances de l’IA au cours du siècle à venir

AI100 a été lancé par Eric Horvitz, directeur scientifique de Microsoft, et hébergé par le Stanford University Institute for Human-Centered Artificial Intelligence. Le projet est financé par un don de Horvitz, un ancien élève de Stanford, et de sa femme, Mary. C’est ainsi qu’en 2016, un premier rapport du projet a été publié : le document a permis de reconnaitre que les effets de l’IA et de l’automatisation pouvaient entraîner des perturbations sociales et que les IA étaient loin d’être des machines que l’on peut comparer à celles et ceux de la science-fiction.

Aujourd’hui, un nouveau rapport intitulé “Gathering Strength, Gathering Storms” a été publié pour montrer, cinq ans après, les évolutions dans la recherche de l’IA et dans son utilisation. La mise à jour de cette année a été préparée par un comité permanent en collaboration avec un panel de 17 chercheurs et experts. La directrice de l’Institut Schwartz Reisman (ISR), Gillian Hadfield, une spécialiste du droit et de l’économie spécialisée dans la réglementation de l’IA s’est exprimé sur la sortie de ce nouveau rapport tout en évoquant le précédent :

“Le premier rapport de 2016 était très axé sur les progrès techniques et ne traitait que brièvement des risques et des défis. Cette année, un changement clé est une préoccupation beaucoup plus grande concernant les risques et défis potentiels de l’IA, ce qui correspond bien à notre objectif à l’ISR : comment nous assurer que l’IA est bonne pour le monde ?”

Une version 2021 du rapport AI100 qui s’intéresse aux villes du monde entier

Alors que le premier rapport AI100 se concentrait sur l’impact de l’IA dans les villes nord-américaines, les participants visaient cette nouvelle étude à explorer l’impact de l’IA sur les personnes et les sociétés du monde entier. Le nouveau rapport présente les conclusions de deux ateliers commandés par le comité permanent d’AI100 :

  • L’un sur “La prédiction en pratique” : qui a étudié l’utilisation des prédictions du comportement humain basées sur l’IA ?
  • Et un autre sur le “Coding Caring” : relever les défis et les opportunités liés à l’intégration des technologies de l’IA dans le processus de prise en charge des êtres humains et le rôle que jouent le genre et le travail pour répondre au besoin urgent d’innovation dans les soins de santé.

Comme le précise Michael Littman, informaticien à l’Université Brown, président du groupe de travail :

“Au cours des cinq dernières années, l’IA est passée de quelque chose qui se produit principalement dans des laboratoires de recherche ou d’autres environnements hautement contrôlés à quelque chose qui affecte la vie des gens dans la société. C’est vraiment excitant, car cette technologie fait des choses incroyables dont nous ne pouvions que rêver il y a cinq ou dix ans. Mais en même temps, le domaine s’attaque à l’impact sociétal de cette technologie, et je pense que la prochaine frontière est de réfléchir aux moyens de tirer parti de l’IA tout en minimisant les risques.”

“Les risques”, c’est un aspect que le document prend en compte : images et vidéos truquées utilisées pour la propagation de fake news, robots en ligne utilisés pour manipuler l’opinion publique, biais algorithmique discriminants, envahissement de la vie privée avec l’utilisation de systèmes de reconnaissance visuelle.

Les quatre points fondamentaux à retenir de l’édition 2021 du rapport AI100

Plusieurs points sont alors à retenir du travail fourni par l’équipe AI100 :

  • Une plus grande sensibilisation du public de la part des scientifiques de l’IA serait bénéfique alors que la société est aux prises avec les impacts de ces technologies.
  • Traiter de manière appropriée les risques des applications de l’IA impliquera inévitablement l’adaptation des systèmes réglementaires et politiques pour qu’ils soient plus réactifs au rythme rapide du développement technologique.
  • Étudier et évaluer les impacts sociétaux de l’IA, tels que les préoccupations concernant le potentiel de l’IA et des algorithmes d’apprentissage automatique à façonner la polarisation en influençant la consommation de contenu et les interactions avec les utilisateurs, est plus facile lorsque les collaborations académiques-industrie facilitent l’accès aux données et aux plateformes
  • L’un des dangers les plus pressants de l’IA est le techno-solutionnisme, l’idée que l’IA peut être considérée comme une panacée alors qu’elle n’est qu’un outil.”

Oren Etzioni, PDG de l’Allen Institute for Artificial Intelligence, évoque la mise à jour du rapport AI100 :

“Le rapport représente une quantité substantielle de travail et d’informations par les meilleurs experts à la fois à l’intérieur et à l’extérieur du domaine. Il évite le sensationnalisme au profit d’obligations mesurées et savantes. Je pense que le rapport est correct en ce qui concerne la perspective d’une collaboration homme-IA, le besoin de connaissances en IA et le rôle essentiel d’une forte perspective non commerciale des universités et des organisations à but non lucratif. […] Je pense que le rapport peut sous-estimer l’impact économique de l’IA, car l’IA est souvent une technologie composant les produits fabriqués par Apple, Amazon, Google et d’autres grandes entreprises.”

Rendez-vous dans cinq ans, en 2026, afin d’avoir, surement, la publication d’un nouveau rapport où l’impact économique de l’IA sera plus explicitement évoqué.


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Zacharie Tazrout

Partager l'article

Le groupe Manutan investit dans la Robotic Process Automatisation pour dynamiser son département Finances

Manutan, fournisseur européen de produits et services aux entreprises et aux collectivités et spécialiste du e-commerce BtoB, investit dans la Robotic Process Automatisation (RPA)...

Spice AI veut faciliter l’intégration de l’intelligence artificielle dans les applications

Spice AI, startup basée à Seattle, a pour objectif de faciliter le travail des développeurs lors du développement d'applications intelligentes. Bien que l'IA ait...

Podcast : L’université Paris Dauphine-PSL dévoile le premier épisode de « EX MACHINA, l’ère des algorithmes »

"IA : qui sont les humains derrière la machine ?", c'est le titre du tout premier podcast d'EX MACHINE, lancé par l'université Paris Dauphine-PSL....

Les startups Manitty, PaIRe et Beyond Aero récompensées lors de la 11e édition du prix Jean-Louis Gerondeau – Safran

Manitty, PaIRe et Beyond Aero sont les startups lauréates du prix Jean-Louis Gerondeau - Safran 2021. Leurs innovations dans les domaines de l’aéronautique, des...