L’intelligence artificielle est au cœur de la révolution technologique contemporaine, et la France entend être à la pointe de ce mouvement. C’est dans ce contexte qu’est intervenue la nomination de Guillaume Avrin, un ingénieur de renom et premier expert français qualifié en IA par le Cofrac, au poste de Coordonnateur national pour l’intelligence artificielle. Diplômé de CentraleSupélec et des Arts et Métiers, et doté d’un doctorat en robotique et neurosciences, Guillaume Avrin était avant sa nomination responsable du secteur IA au Laboratoire national de métrologie et d’essais (LNE).
Dans cette interview exclusive parue dans le magazine 11 d’ActuIA, Guillaume Avrin éclaire les axes clés de la stratégie nationale pour l’IA française et offre un aperçu de l’avenir technologique du pays, notamment dans les domaines prioritaires de l’IA de confiance, l’IA frugale, et l’IA embarquée.
Votre nomination au poste de coordinateur national pour l’intelligence artificielle intervient à un moment où l’IA fait plus que jamais parler d’elle. Pouvez-vous nous parler de vos missions, de votre feuille de route et de vos grandes priorités ?
La mission de coordination interministérielle de la stratégie nationale pour l’IA comprend deux axes et vise à s’appuyer sur l’ensemble des administrations concernées par l’IA afin de structurer l’écosystème sur le long terme à tous les stades du développement technologique : information, R&D, applicatifs, certification, mise sur le marché et diffusion intersectorielle des technologies d’IA, soutien au développement, au déploiement et à l’encadrement.
Mon mandat s’inscrit dans la phase 2 de la stratégie nationale pour l’IA, la priorité étant de favoriser la diffusion de l’IA dans notre économie. Nous poursuivrons notre soutien à l’offre vis-à-vis des acteurs émergents de l’innovation en étroite concertation avec la stratégie européenne et en tenant compte des spécificités de l’écosystème national. Les sujets identifiés comme prioritaires sont l’IA de confiance, l’IA frugale et l’IA embarquée. Cela ne nous empêchera pas de nous adapter aux nouveaux besoins et usages de l’IA, ainsi qu’aux nouvelles façons de développer des systèmes.
L’actualité autour de ChatGPT, de BARD, des modèles géants, des IA génératives dans les domaines du TAL et du multimodal pourrait par exemple faire l’objet d’une initiative nationale, car la France est un acteur dynamique sur le sujet. Citons le modèle géant BLOOM, initiative qui a réuni plus de quarante pays, largement soutenue par l’entreprise américaine Hugging Face, dont le modèle a été entraîné sur le supercalculateur Jean Zay et a bénéficié d’une forte contribution de laboratoires de recherche français. Je pense aussi aux modèles développés par des entreprises comme LightOn. La question est de savoir si un nouvel axe de la stratégie nationale pour l’IA sur ces problématiques doit être lancé, et dans l’affirmative, d’en préciser son périmètre pour maximiser les retombées économiques et sociales.
Cinq ans après AI For Humanity et la présentation de l’ambitieuse stratégie française en matière d’IA, quel bilan pouvez-vous faire des avancées et des défis ?
Entre 2015 et 2017, nous avons observé un premier essor de l’IA avec la démocratisation du deep learning et l’augmentation de la puissance de calcul. La stratégie nationale en IA lancée en 2018 a structuré les nombreuses initiatives pour optimiser l’impact des dépenses publiques, favorisé l’émergence d’innovations et a garanti la bonne utilisation de ces systèmes dans la société. Désormais, la formation et la diffusion de l’IA dans l’économie nécessitent toute notre attention. En s’appuyant sur l’ensemble des universités et des acteurs, notamment les instituts 3IA et les centres d’excellence, il sera possible de s’assurer de la qualité des formations et de la massification des personnes formées. C’est un point extrêmement important de cette phase 2, avec plus de 700 millions d’euros dédiés.
Le deuxième défi est la diffusion de l’IA dans l’économie. Notre soutien à l’offre doit répondre à un véritable besoin, tels que les enjeux de l’automatisation de nos processus de production ou encore des tâches administratives. Il s’agit d’un véritable enjeu stratégique et son impact sera extrêmement important sur notre compétitivité et balance commerciale. L’action publique doit ainsi soutenir les capacités d’automatisation et bénéficier à un maximum d’acteurs de l’écosystème économique. Par exemple, une démonstration de faisabilité qui dérisque l’investissement en IA incitera les autres acteurs de l’écosystème à automatiser un certain nombre de tâches et à assurer la bonne complémentarité entre les compétences humaines et les compétences rendues accessibles par ces systèmes d’IA.
Vous l’évoquiez, la formation est en effet un sujet important. Comment va-t-il être abordé au sein de cette deuxième phase et pensez-vous qu’on puisse parler d’une fuite des talents français vers l’international ?
Les talents français ne sont pas nécessairement « en fuite », mais ils sont recherchés par des entreprises américaines et chinoises ainsi que par nos partenaires européens, ce qui a des aspects positifs et négatifs.
D’un côté, c’est une reconnaissance de la qualité de la formation en France, qui favorise la collaboration internationale. Nous avons en effet d’excellents talents déjà formés aujourd’hui, qui sont sollicités à l’étranger, ce qui signifie que notre enseignement est de qualité. Il faut cependant avancer sur ce sujet car la très large diffusion de l’IA dans l’économie a été amorcée, va croître au fil des années, et de plus en plus de spécialistes en IA vont être requis. Il peut s’agir d’une part de pure players de l’IA, à savoir des licences, des masters, des doctorats dédiés au développement de l’IA, ou porteurs d’une expertise essentielle sur l’IA. Et d’autre part de personnes ayant une expertise IA + X, c’est-à-dire qui ont une autre formation principale, par exemple en santé ou en droit, dans tous les grands domaines d’application de l’IA et qui vont pouvoir être formées en IA pour le déploiement de solutions dans leur domaine.
Nous avons encore des progrès à faire et des défis y sont associés, puisque pour avoir plus de personnes formées, plus de formateurs sont indispensables. Nous devons regrouper, mobiliser les enseignants-chercheurs, les enseignants, pour qu’ils se dédient à ces thématiques de la formation en IA, en formation initiale ou continue.
Ce besoin fondamental de formations et de recrutements de nouveaux talents sur notre territoire doit répondre aux besoins de l’industrie et de l’économie française. Pour y parvenir, revaloriser les métiers d’ingénieurs et encourager les jeunes à s’intéresser à l’IA est primordial. Une réflexion et une action sont en cours avec le ministère de l’Éducation nationale pour intervenir au plus tôt dans le cursus scolaire et commencer à aborder ces sujets dès la sixième et même pourquoi pas avant. Créer des vocations dans ces domaines sera le garant de notre succès. La France se doit également d’offrir un environnement de travail satisfaisant et des infrastructures de qualité pour conserver ses talents. L’innovation et le dynamisme de l’IA doivent se situer sur notre territoire.
Quelles sont, selon vous, les forces et richesses de l’écosystème français en IA pour faciliter sa diffusion dans l’économie ?
Outre la qualité de nos formations et de nos infrastructures de recherches, un autre aspect positif est que les grands groupes industriels se sont aussi emparés du sujet. Citons le manifeste IA, qui regroupe une quinzaine de grands groupes industriels qui collaborent sur le sujet. De plus en plus de startups et de licornes dédiées à l’IA ou pour lesquelles l’IA est une brique importante sur la valeur produite voient le jour. Il s’agit désormais de renforcer nos dispositifs, nos actions, l’engouement suscité par le développement de ces technologies dans le milieu économique, dans les startups et dans les entreprises.
Notre richesse est de disposer de presque toutes les briques de la chaîne de valeur de l’IA. Il faut s’assurer qu’elles travaillent bien les unes avec les autres, qu’il existe une cohérence globale sur la direction prise et sur les objectifs à atteindre, un dynamisme et encore une fois un certain engouement. Et pour s’assurer que les collaborations sont bien mises en place, il faut lever au maximum les verrous ou lourdeurs qui pourraient empêcher les acteurs de développer ou d’utiliser ces systèmes d’IA dans un cadre de confiance.
Le marché de l’IA est très concurrentiel. La course à l’IA, avec à l’époque les États-Unis et la Chine en tête, a-t-elle évolué ?
La course à l’IA existe toujours et l’actualité l’a encore renforcée, notamment sur le sujet des modèles géants. Cependant, aujourd’hui l’Europe est très bien équipée, à la fois en termes de stratégie – la plupart des pays européens ont défini une stratégie dédiée à l’IA – mais aussi grâce à l’ensemble des dispositifs mis en place par la Commission européenne, que ce soit Digital Europe ou Horizon Europe, qui rapprochent les acteurs de la recherche et de l’économie. Bien que les multinationales chinoises et américaines aient une longueur d’avance, l’Europe a désormais un bon alignement en termes de dynamisme, croissance et volonté politique pour rattraper son retard et assurer un leadership en IA. La réglementation européenne prévue pour 2025 donnera un cadre de confiance pour son développement. Une dynamique d’ensemble existe désormais au niveau européen, ce qui change la donne.
Pour citer quelques exemples, dans le cadre de Digital Europe, des testings and experimentations facilities for AI ont récemment été financés. Ces grands centres de tests réunissent jusqu’à quarante partenaires européens dans les domaines de la santé, de l’agro-alimentaire, des villes connectées et de la production industrielle. La structuration au niveau européen se fait sur toutes les étapes de la chaîne de valeur de l’IA, y compris sur les infrastructures de calcul, avec par exemple l’exascale d’EuroHPC.
Au niveau européen justement, l’AI Act a fait couler beaucoup d’encre. Quelle est votre position sur ce cadrage / cette réglementation de l’IA ?
Deux types de commentaires ont principalement été émis sur l’AI Act : la crainte qu’il entrave l’innovation en Europe et l’importance d’avoir un « cadre de confiance » pour le déploiement de technologies intelligentes. En l’absence de cadre réglementaire, le développeur qui souhaite commercialiser un système à haut risque embarquant de l’IA ne peut s’appuyer sur aucun référentiel pour démontrer qu’il a fait son maximum pour assurer la maîtrise de sa technologie et garantir la sécurité des utilisateurs. Il engage donc fortement sa responsabilité au civil et au pénal en cas d’accident. Au contraire, lorsque l’AI Act sera entré en vigueur, il pourra montrer au juge l’obtention de son marquage CE et qu’il a fait son maximum pour garantir le fonctionnement de son système intelligent. Ce sera une circonstance atténuante en cas d’accident. Ces remarques ne sont pas propres à l’IA et sont valables pour toutes les technologies et produits qui sont commercialisées au sein de l’espace économique européen. Il est à noter que concernant l’AI Act, des normes harmonisées doivent encore être produites pour pouvoir octroyer une présomption de conformité aux exigences réglementaires aux développeurs se mettant en conformité avec ces normes.
Les travaux en cours ont vocation à produire ces référentiels normatifs. Sans cette dynamique européenne, les startups ou les plus petites structures qui développent des technologies d’IA auraient dû mettre en place elles-mêmes l’ensemble des méthodologies d’évaluation et de mise en conformité aux exigences de l’AI Act. La dynamique d’ensemble permet de produire des normes avec des acteurs qui représentent leurs intérêts comme par exemple France Digitale, qui regroupe un certain nombre de startups, et travaille à s’assurer que les normes qui ont vocation à être harmonisées répondent bien à leurs intérêts et à leurs attentes. Je pense sincèrement que cela contribue à ce besoin d’un cadre de confiance pour les développeurs et les utilisateurs de technologies d’IA, afin d’assurer son succès commercial.
La Commission européenne s’intéresse également, tout comme le grand public, à l’IA générative et à l’essor d’outils comme Midjourney ou ChatGPT. Comment sensibiliser davantage le public à ces technologies ?
Les IA d’usage général font l’objet d’une modification dans l’AI Act, car elles peuvent être impliquées dans des cas d’usage critiques. Certains modèles géants développés à l’international pourraient par exemple ne pas obtenir l’autorisation de commercialisation sur le territoire européen, en raison de doutes sur la constitution des corpus d’apprentissage et de test, la représentativité et les licences associées.
Définir le domaine de fonctionnement de ces systèmes intelligents, analyser leurs facteurs d’influence, vérifier l’absence de biais, s’assurer de leur robustesse, de leur résilience… toutes ces métriques sont discutées dans le cadre de la proposition de réglementation européenne sur l’IA. Or ces protocoles d’évaluation de l’IA générative sont moins matures que ceux qui existent pour la classification automatique.
L’évaluation reste un défi car pour évaluer une IA, on compare ses sorties avec des sorties de référence puis on en mesure l’écart, afin de déterminer à quel point le système d’IA s’est trompé. Pour pouvoir définir cette mesure de distance entre la bonne réponse et la réponse donnée par l’IA, il faut connaître la bonne réponse. Lorsqu’il s’agit de classification automatique, on la connaît, mais pour l’IA générative, qui aurait vocation à générer une nouvelle image de manière automatique, il n’existe pas de bonne réponse a priori. Pour la traduction automatique par exemple, plusieurs traductions d’une même phrase sont possibles, des annotateurs humains vont alors générer plusieurs traductions possibles afin de calculer l’écart entre la sortie, la traduction proposée par le système d’IA, et l’ensemble de ces sorties. Mais pour générer une image, une infinité de possibilités existent.
La définition des protocoles et des métriques pour caractériser et évaluer ces IA génératives font encore l’objet de recherches. L’évaluation est un sujet sur lequel il faut progresser, un défi de recherche qui nécessite d’autres réponses. Il est nécessaire de s’appuyer aussi sur les outils existants tels que la traduction automatique, la synthèse de textes, le résumé de textes, qui sont étudiés depuis longtemps et dont l’évaluation a déjà fait l’objet de réflexion.
Ainsi, bien que leurs résultats soient impressionnants, il est important de prendre des précautions lors de l’interaction avec ces modèles géants, les IA génératives et les IA d’usage général. Sur ChatGPT, la précision des réponses laisse parfois à désirer, puisqu’il a été conçu pour que ses réponses paraissent naturelles. En l’occurrence, reconnaissons qu’il le fait plutôt bien et permet de sensibiliser le grand public et les entreprises au potentiel de l’intelligence artificielle. Mais certaines précautions sont indispensables lorsqu’on interagit avec ces systèmes intelligents, ces modèles géants, ces IA génératives et ces IA d’usage général. De fait, on ne sait pas sur quelles données elles ont été entraînées, si elles sont représentatives ni même si elles ont été obtenues légalement.
Des rapports, dont celui du Medef, regrettent un retard dans l’adoption de l’IA par les entreprises. Quels sont selon vous les freins, les enjeux et comment démocratiser l’accès à l’IA pour les entreprises ?
Il y a en effet un retard et le rapport du Medef le reflète parfaitement. C’est d’ailleurs pour cette raison que la phase 2 de la stratégie nationale en IA est dédiée à la diffusion de l’IA dans l’économie et la formation. Maintenant que ces technologies sont matures, l’enjeu consiste à établir un réel rapprochement entre l’offre et la demande, en toute confiance.
L’expérimentation de l’IA, telle que révélée avec ChatGPT, est essentielle pour démocratiser et diffuser l’IA dans la société et les entreprises. Les études sur l’adoption par les entreprises de l’IA et de son lien avec l’impact positif de ChatGPT et de son expérimentation auprès du grand public sont très intéressantes. Expérimenter l’IA, se rendre compte de son potentiel donne envie de l’utiliser et peut rassurer. Cela permet de démocratiser et de diffuser l’intérêt de l’utilisation de l’IA dans nos entreprises mais aussi dans notre société. En revanche, parmi toutes les IA génératives existantes, ChatGPT est peut-être l’une de celles pour lesquelles nous avons le moins de garanties, parce que le code est fermé, proposé par une entreprise américaine, et que comme dit précédemment, la génération automatique de contenu est une tâche aujourd’hui encore difficilement évaluable.
Les performances d’IA mieux maîtrisées, répondant à des besoins concrets bien cadrés pour les entreprises, donneront envie de déployer ces systèmes. Cependant, dans un premier temps, un lieu d’expérimentation permettant aux industriels et au grand public d’échanger et d’appréhender la performance de ces systèmes d’IA doit se mettre en place, ainsi qu’un cadre de confiance réglementaire, tel que celui mis en place par l’AI Act. Il existe des certifications volontaires, qui parfois sont encore plus exigeantes, afin d’identifier les solutions d’IA utilisables en toute confiance.
Il va donc falloir écouter les entreprises pour savoir quelles tâches sont à automatiser en priorité. Réunir un certain nombre d’ingrédients et se concentrer sur les tâches les plus facilement automatisables dans l’offre à mettre en place sur le territoire national favoriseront le déploiement de l’IA dans notre économie.
La dynamique d’ensemble semble également bien fonctionner au niveau de la recherche, comme le montre le développement de nombreux partenariats européens. Faut-il que les entreprises, laboratoires et centres français aillent davantage vers ce type de partenariats, qu’ils soient européens ou internationaux ?
La France a lancé plusieurs appels bilatéraux, notamment avec l’Allemagne avec qui elle a une relation privilégiée. Dès 2019, elle lançait l’appel à projet bilatéral France-Allemagne-Japon. En 2020, eut lieu la seconde vague d’appel à projets France-Allemagne sur les transports, la mobilité, la logistique, l’énergie… En 2021, dans le secteur économique, une collaboration franco-allemande s’est mise en place sur la prévention des risques, la gestion des crises et la résilience. Puis en 2022, la troisième vague de ces appels à projets a porté sur les mêmes thématiques. Aujourd’hui, nous réfléchissons à renouveler nos collaborations avec l’Allemagne, notamment sur l’IA et l’environnement. Nous avons également une forte collaboration avec le Canada, notamment sur le Partenariat mondial pour l’intelligence artificielle.
Les partenariats bilatéraux permettent des modes de fonctionnement souples et efficaces, en complément des appels européens qui réunissent de nombreux acteurs. Ils permettent un dynamisme intéressant tant sur le lancement, le financement des projets que sur l’analyse des résultats, avec des modes de fonctionnement qui peuvent être parfois un peu plus souples que ce qui peut se faire via les dispositifs européens. Des collaborations seront poursuivies dans les années à venir pour maximiser les retombées de la dépense publique en IA.
Les licornes, tout un symbole, témoignent du dynamisme d’un écosystème. Comment faire émerger des leaders français et européens de l’IA ?
Pour favoriser l’émergence de licornes, il faut avoir les infrastructures pour assurer le transfert entre le monde de la recherche et l’économie. On parle beaucoup de deeptech notamment, et les startup studios, accélérateurs, incubateurs, SATT, sont autant de dispositifs permettant d’intégrer les meilleures technologies et de les associer au meilleur business model avec les bons porteurs. Ils favorisent l’émergence d’acteurs ultra-compétitifs, dotés d’une bonne visibilité, pouvant conquérir des marchés internationaux.
Parallèlement, nous devons contribuer à donner de la visibilité à ces jeunes entreprises, ces licornes potentielles. C’est essentiel pour attirer les investissements. Il s’agit de mettre en valeur tout le potentiel de ces jeunes pousses développées sur le territoire national et qui répondent à tous les besoins sur l’automatisation des tâches industrielles et administratives.
La France a la chance de bénéficier d’un tissu d’innovation à fort potentiel dans des domaines tels que le TAL, le multimodal et la génération automatique d’images. Dans quasiment chacun de ces domaines, il existe des startups ayant déjà trouvé leur marché, qui ont déjà une traction avec des technologies en place. Ces projets-là ont tout le potentiel pour devenir des licornes, avec le soutien adéquat et la bonne visibilité.
L’entretien est à découvrir dans ActuIA N°11, disponible ici.
