Comment l'OCDE veut aider les gouvernements à relever les défis de l’IA générative

L'OCDE (Organisation de coopération et de développement économiques), joue un rôle central dans la compréhension et la gestion de l'impact de l'IA sur l'économie mondiale et la société. Ses analyses, recommandations et normes contribuent à façonner les politiques nationales et internationales en matière d'IA et à promouvoir son développement responsable et éthique. Le document "Initial policy considerations for generative artificial intelligence", publié récemment, met en lumière les opportunités et les défis posés par l'IA générative et vise à aider les décideurs à y répondre. Créée en 1961, l'OCDE a pour objectif est de promouvoir la coopération économique entre ses 38 pays membres mais aussi de faire progresser le bien-être social au niveau mondial en dispensant aux gouvernements des conseils sur la mise en œuvre de politiques à l’appui d’une croissance résiliente, inclusive et durable. Dès 2017, elle s’est intéressée aux usages d’une IA bénéficiant à toute la société, a adopté en 2019 les principes sur l’IA établissant les normes d’une IA responsable et digne de confiance. Depuis 2020, elle héberge le secrétariat du PMIA à Paris, l'initiative franco-canadienne visant à un développement et une utilisation responsables de l’IA, et en est un observateur permanent. Le rapport "Considérations politiques initiales pour l’intelligence artificielle générative" fait partie de la série de documents publiés par l'OCDE afin d’approfondir les connaissances sur le pouvoir transformateur de l’IA et ses implications pour les économies et les sociétés. Un large éventail de sujets liés à l’IA y sont abordés comme les opportunités et les défis de la gouvernance de l’IA, l’impact de l’IA dans divers domaines : politique, marché du travail, éducation et soins de santé, considérations éthiques dans la conception et le déploiement de l’IA et les nouvelles frontières telles que l’IA générative.

IA générative, opportunités et défis

Philippe Lorenz, Karine Perset et Jamie Berryhill, les auteurs de ce document, rappellent tout d'abord le potentiel de l'IA générative, ses progrès spectaculaires, citant l'exemple de la génération d'images de Midjourney. Ils présentent ensuite les défis critiques pour la société posés par l'IA générative auxquels les décideurs politiques doivent faire face : changements potentiels sur les marchés du travail, incertitudes sur les droits d'auteur, risques liés à la perpétuation de biais sociaux et potentiel de détournement pour créer de la désinformation, distorsion du discours public et incitation à violence, empreinte écologique due à la consommation énergétique élevée. Outre ces défis déjà présents et la qualité variable des données d'entraînement des LLM, ils abordent également des comportements émergents, tels qu’une plus grande autonomie, la recherche de pouvoir et la poursuite de sous-objectifs cachés pour atteindre un objectif central, qui pourraient ne pas correspondre aux valeurs et intentions humaines. Pour eux, les gouvernements, les entreprises et la société dans son ensemble doivent continuer à surveiller attentivement le développement de l'IA générative et à élaborer des politiques et des réglementations appropriées pour guider son évolution.

Un tremplin pour les travaux de l'OCDE sur l'IA générative

L'OCDE souligne qu'il est impératif de poursuivre la recherche pour se préparer à divers scénarios possibles dans le futur de l’IA générative. Étant donné le niveau élevé d’incertitude et l’impact potentiellement considérable de cette technologie à la fois à petite et grande échelle, il est crucial que les décideurs restent informés et prêts à mettre en place des politiques prospectives en matière d’IA. Elle a l’intention d’utiliser ce document comme point de départ pour aider les gouvernements à avancer dans ce domaine. L’Observatoire de l’OCDE sur l’IA et le nouveau Groupe d’experts de l’OCDE sur les futurs de l’IA serviront de plateforme de dialogue sur ces questions, générant des idées et des recommandations pratiques pour les gouvernements. Parallèlement, d’autres travaux sont en cours au sein de l’OCDE, notamment au sein du Comité de l’emploi, du travail et des affaires sociales, du Hub de ressources DIS/MIS de l’OCDE et de l’initiative transversale Going Digital de l’OCDE. Références de l'article : Lorenz, P., K. Perset et J. Berryhill (2023), "Initial policy considerations for generative artificial intelligence", OECD Artificial Intelligence Papers, n° 1, Éditions OCDE, Paris, https://doi.org/10.1787/fae2d1e6-en.