Home Tags Inférence

inférence

BitNet.cpp : le cadre open source de Microsoft pour réduire les coûts d’inférence des LLMs quantifiés à 1 bi

Microsoft a récemment publié BitNet.cpp, un cadre open-source conçu pour optimiser l’inférence des grands modèles de langage (LLM) quantifiés à 1 bit. Il permet notamment d’exécuter un modèle BitNet b1.58 de 100 milliards de paramètres sur un seul processeur, atteignant des...

Snowflake annonce l’intégration de Llama 3.1 et l’open source de sa pile d’optimisation d’inférence

Snowflake annonce qu’il héberge et optimise la collection de LLM Llama 3.1 dans sa plateforme Snowflake Cortex AI, offrant aux entreprises un accès sécurisé et sans serveur au modèle open source le plus avancé de Meta, Llama 3.1 405B. Parallèlement, la société rend open sou...

Podcast : “CamemBERT, un savoureux modèle de langue française” dans Le Journal des Sciences sur France Culture

Natacha Triou proposait de découvrir l’algorithme linguistique français CamemBERT dans Le Journal des Sciences du 19 novembre 2019 sur France Culture. L’occasion de revenir sur ce modèle informatique, publié gratuitement en ce mois de novembre, avec Laurent Romary, di...

Intel AI Summit : Deux nouveaux ASICs orientés vers l’accélération des tâches d’intelligence artificielle

Ce mardi 12 novembre, Intel organisait son Intel AI Summit 2019 à San Francisco aux États-Unis. L’occasion pour le groupe de faire plusieurs annonces de taille en matière d’intelligence artificielle dont le lancement de Nervana NNP-T1000 et NNP-I1000, ses deux nouveau...

Retour sur le processeur NNP-I développé par Intel avec la collaboration de Facebook

À l’occasion du CES de Las Vegas la semaine dernière, Intel a annoncé l’arrivée d’un nouveau processeur dédié à l’intelligence artificielle et destiné à effectuer des tâches d’inférence (c’est à dire qu’il n’est pas destiné à entraî...

Daniel Le Berre, concepteur de la bibliothèque open source Sat4J, est lauréat de la médaille de l’innovation 2018 du CNRS

Daniel Le Berre, à l’origine du logiciel libre Sat4j, recevra aujourd’hui la médaille de l’innovation 2018 du CNRS. Cette récompense est remise depuis 2011 à des chercheurs dont les travaux exceptionnels ont conduit à des innovations marquantes sur le plan techn...