Intelligence artificielle Retour sur le partenariat Hugging Face et Graphcore pour faciliter le déploiement...

Pour approfondir le sujet

Sur le même thème :

L’Inria et le DFKI organisent leur première école d’été européenne autour de l’intelligence artificielle

Inria et le centre de recherche allemand en intelligence artificielle (DFKI) organisent une école d’été européenne autour de l’intelligence artificielle qui se déroulera du...

Chronopost et ILLUIN Technology : l’intelligence artificielle au service des livraisons

La société Chronopost a annoncé son entrée au capital d'ILLUIN Technology, concepteur de projets innovants autour de l'intelligence artificielle. Cette prise de participation à...

ABBYY enrichit sa bibliothèque de développement open source dédiée au machine learning

ABBYY, une multinationale spécialisée dans la conception de logiciels et dans "l'intelligence digitale", étend les capacités de sa bibliothèque de développement open source NeoML....

L’Université de Paris cherche à accélérer la recherche en cosmologie grâce aux IPU et aux réseaux de neurones

L'intelligence artificielle est de plus en plus utilisée dans l'astrophysique : récemment, plusieurs chercheurs japonais ont exploité le deep learning pour mieux observer et...

Retour sur le partenariat Hugging Face et Graphcore pour faciliter le déploiement de transformeurs sur les IPU

Graphcore a annoncé ce début de mois rejoindre le programme de partenariat de Hugging Face centré notamment sur les modèles optimisés et les intégrations logicielles. Cette collaboration permettra aux développeurs de déployer, à l’échelle de production et sur des IPU, des modèles basés sur des transformeurs.

Le secteur de l’intelligence artificielle (IA) s’est vu refaçonné avec l’arrivée des transformeurs. Des modèles tels que BERT sont employés dans le traitement automatique du langage naturel, l’extraction de caractéristiques, la génération de textes, l’analyse des sentiments, la traduction et dans bien d’autres domaines. Cependant la mise en production de ces modèles massifs et leur exécution rapide à grande échelle constituent un défi de taille.

C’est dans ce cadre que la startup Hugging Face a lancé un nouveau programme de partenariat. Ce dernier est axé, en particulier, sur les modèles optimisés et les intégrations logicielles, et Graphcore en est l’un des membres fondateurs. Du fait de cette collaboration, les développeurs exploitant des systèmes Graphcore pourront déployer, sur une plus grande échelle de production et sur un IPU, des modèles basés sur des transformeurs avoir avoir à procéder à un codage complexe.

Optimiser les transformeurs pour la production

Hugging Face héberge déjà des centaines de transformeurs, parmi lesquels CamemBERT, en langue française, ou ViT, qui applique les résultats obtenus avec le TALN à la vision par ordinateur. La bibliothèque de transformeurs est téléchargée en moyenne deux millions de fois chaque mois, et la demande est en augmentation.

Avec une communauté de plus de 50 000 développeurs, Hugging Face a connu une adoption massive, qui plus est pour un projet open source. Par le biais de son programme de partenariat, Hugging Face permet de profiter d’un kit de transformeurs de haute qualité, combiné à un matériel très évolué en matière d’IA. À l’aide d’Optimum, un nouvel ensemble d’outils open source qui inclut une bibliothèque, les développeurs peuvent accéder à des modèles optimisés et certifiés par Hugging Face.

Ces derniers sont le fruit d’une collaboration entre Graphcore et Hugging Face : les premiers modèles optimisés pour les IPU feront leur apparition au sein d’Optimum d’ici la fin 2021. À terme, ces modèles engloberont aussi bien des applications dédiées à la vision et à la parole qu’à la traduction et à la génération de textes, pour ne citer que ces exemples. Comme l’indique Clément Delangue, PDG de Hugging Face,

“Les développeurs souhaitent tous pouvoir exploiter le matériel le plus récent et le plus performant, comme l’IPU de Graphcore. Cependant, la question est à chaque fois de savoir s’il sera nécessaire de maîtriser un nouveau code ou de nouveaux processus. Avec Optimum et le programme de partenariat de Hugging Face, elle ne se pose pas. On parle essentiellement de plug and play”.

Qu’est-ce qu’une « Intelligence Processing Unit » ?

Une « Intelligence Processing Unit », ou IPU, est un processeur que l’on retrouve sur les systèmes de calcul IPU-POD pour datacenter de Graphcore. Ce nouveau type de processeur a été spécialement conçu afin de répondre aux besoins spécifiques et uniques requis pour l’IA et l’apprentissage automatique. Il se caractérise, entre autres, par un parallélisme granulaire, une arithmétique à simple précision et la prise en charge de la sparsité.

L’architecture des IPU de Graphcore diffère de l’architecture SIMD/SIMT des GPU. Il s’agit en effet d’une architecture MIMD à fort parallélisme, avec une mémoire sur puce à bande passante extrêmement élevée. Une telle conception est garante de performances d’exception et d’une efficacité inégalée, qu’il soit question des modèles les plus populaires d’aujourd’hui, comme BERT et EfficientNet, ou d’applications d’IA nouvelle génération. L’aspect logiciel joue un rôle majeur. Poplar, le kit SDK de Graphcore, a été élaboré conjointement au processeur. Il s’intègre désormais totalement aux cadres d’apprentissage automatique standard, comme PyTorch et TensorFlow, ainsi qu’à des outils d’orchestration et de déploiement tels que Docker et Kubernetes.

Poplar étant compatible avec ces systèmes tiers, largement répandus, les développeurs peuvent sans difficulté transposer des modèles provenant d’autres plateformes de calcul et, ainsi, bénéficier pleinement des fonctionnalités d’IA avancées de l’IPU.


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Thomas Calvi

Partager l'article

Levée de fonds de 6 millions d’euros de la fintech lyonnaise Mon Petit Placement

Mon Petit Placement, start-up lancée en 2017, a bouclé en ce mois de novembre sa troisième levée de fonds pour un montant de 6...

Lutte contre la cybercriminalité : l’exemple du défi IA lancé par le gouvernement canadien aux petites entreprises

Comme les autres organismes de police canadiens, la Gendarmerie royale du Canada (GRC) peine à accéder aux données chiffrées saisies lors d'enquêtes criminelles. C'est...

Continuity annonce une levée de fonds de 5 millions d’euros auprès d’Elaia Partners, Bpifrance et Kamet Ventures

Continuity a levé 5 millions d’euros en Seed auprès d'Elaia Partners, Bpifrance et Kamet Ventures a annoncé la jeune pousse cette semaine. La start-up...

ADAM9, un gène potentiellement impliqué dans les formes graves de Covid-19 identifié par l’intelligence artificielle

Pourquoi certains patients atteints de Covid-19 sont-ils asymptomatiques alors que d'autres développent des formes graves, notamment le SDRA (syndrome de détresse respiratoire aigüe) ?...
Recevoir une notification en cas d'actualité importante    OK Non merci