Intelligence artificielle La start-up NLP Cloud intègre le modèle open-source GPT-J dans son interface...

Pour approfondir le sujet

Sur le même thème :

Focus sur PanGu-Alpha, le modèle de langage élaboré avec 25 milliards de paramètres de plus que GPT-3

GPT-3, le modèle de langage d'Open AI, disponible depuis juillet 2020, était au moment de son annonce, le plus gros modèle linguistique jamais entrainé...

Concevoir des algorithmes et des modèles de Machine Learning plus éthiques : 3 questions à Michael Kearns

Michael Kearns, professeur de sciences informatique et de l'information à l'Université de Pennsylvanie, travaille notamment sur les sujets de l'apprentissage automatique, de la théorie algorithmique...

Focus sur les gagnants de la session de pitch du Village Francophone : les 15 meilleures solutions IA

L'édition 2021 du salon Viva Technology (VivaTech) s'étant déroulé du 16 au 19 juin 2021, a vu le lancement du collectif technologique Intelligence Artificielle...

Facebook AI dévoile BlenderBot 2.0, un chatbot qui adapte sa mémoire sur le long terme

Facebook AI Research (FAIR), le laboratoire de recherche sur l'intelligence artificielle de Facebook, a travaillé sur BlenderBot 2.0, un chatbot qui combine mémoire à...

La start-up NLP Cloud intègre le modèle open-source GPT-J dans son interface de programmation NLP

En avril dernier, NLP Cloud, start-up grenobloise lançait son interface de programmation NLP permettant aux entreprises et à leurs développeurs et/ou data scientistes de pouvoir utiliser le NLP dans leurs réalisations. La jeune pousse française annonce l’intégration du modèle open source GPT-J dans leur outil NLP. Récemment publié par une équipe de chercheurs d’EleutherAI, ce modèle se veut être équivalent au célèbre GPT-3 d’Open AI.

Une start-up innovante dans le NLP et un modèle NLP open source qui concurrence GPT-3

Créée en 2020 par Julien Salinas, la start-up française NLP Cloud, basée à Grenoble, fournit des modèles de traitement automatique du langage (NLP ou TAL en français) de haute performance basés sur spaCy et Hugging Face Transformers, répondant aux exigences de production. En avril dernier, ce nouvel acteur du marché du NLP lance sa propre interface de programmation NLP au service des data scientists et des développeurs.

En parallèle, les équipes de EleutherAI (plus particulièrement Aran Komatsuzaki, doctorant en machine learning et Ben Wang, étudiant en ingénierie électrique à l’Université de Pensylavanie) développent GPT-J, modèle de traitement automatique du langage open source entrainé à l’aide de 6 milliards de paramètres, soit 4 fois place que GPT-2 mais presque 30 fois mois que le modèle GPT-3 d’Open AI. Néanmoins, EleutherAI affirme que son modèle NLP est l’un des plus avancés et serait équivalent à GPT-3.

L’arrivée de GPT-J dans NLP Cloud : entre enjeux éthiques et performance de l’interface

Si l’interface NLPcloud supportait déjà GPT-3, la start-up annonce qu’elle supportera également GPT-J. L’entreprise précise :

“GPT-3 et GPT-J ont récemment bouleversé le monde du NLP. Grâce à leur taille, ces modèles d’IA sont à la fois très efficaces pour générer un langage humain fluide et pour traiter efficacement la plupart des cas d’utilisation du traitement automatique du langage moderne. Grâce à GPT-J, les développeurs peuvent effectuer diverses opérations de pointe telles que des chatbots, l’extraction de données à partir de documents non structurés (comme des pages Web, des e-mails, des contrats, des états financiers…), la génération de code, l’analyse des sentiments, ou la création de contenu marketing, dans de nombreuses langues. De nouveaux cas d’utilisation sont découverts presque tous les jours.”

Depuis plus de trois mois, l’équipe de NLP Cloud travaille pour réussir au mieux l’intégration de GPT-J afin de proposer une solution prête pour la production à ses clients. Julien Salinas, fondateur et CEO de NLP Cloud évoque l’arrivée de ce nouveau modèle NLP dans l’interface que sa société a conçu :

” Chez NLP Cloud, nous sommes heureux de proposer une alternative open source au monopole OpenAI-Microsoft, car nous pensons que tout le monde devrait être capable de comprendre – s’il le souhaite – comment fonctionne un modèle d’IA de l’intérieur.”

Pour finir, NLP Cloud précise que pour que les modèles avancés de NLP puissent être les plus éthiques et responsables possibles, il faudrait que ces modèles puissent rester open source et soient continuellement audités par la communauté des spécialistes en traitement du langage naturel.


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Zacharie Tazrout

Partager l'article

La France et l’Allemagne débloquent 17,5 millions d’euros pour financer les cinq projets lauréats de leur APP commun

Dans le cadre de la Présidence française du Conseil de l’Union européenne, la Direction générale des Entreprises (DGE) organise, avec le soutien du Hub...

La start-up marseillaise Telaqua annonce une levée de fonds de 4 millions d’euros

Telaqua, startup marseillaise spécialisée dans la gestion des systèmes d’irrigation agricoles et viticoles, a annoncé le 11 mai dernier une levée de fonds de...

L’accélérateur de start-ups Future4care inaugure officiellement ses locaux et sa plateforme numérique

Le 10 juin 2021, Sanofi, Capgemini, Generali et Orange annonçaient la création de Future4care qui a pour ambition d’accélérer le développement de solutions européennes...

Hewlett Packard Enterprise annonce la construction de sa première usine dédiée au HPC et à l’IA en Europe

Hewlett Packard Enterprise (HPE) a annoncé, le 18 mai, la construction de sa première usine en Europe destinée à soutenir le développement de supercalculateurs...
Recevoir une notification en cas d'actualité importante    OK Non merci