Dans la nuit du 4 au 5 octobre 2026, le moteur d'inférence SGLang a fusionné une contribution qui ajoute une plateforme Apple Silicon (MPS) à son exécuteur de modèles PyTorch standard, celui… Lire la brève
Le 2 octobre 2026, le projet SGLang a publié la version 0.5.21 de son moteur de service de modèles, qui rassemble 779 pull requests de 227 contributeurs. Les instances de service désagrégé peuvent… Lire la brève
Le 28 septembre 2026, IQuest a mis en ligne sur Hugging Face les poids d'IQuest-Q1, un modèle à mélange d'experts qu'il destine au code agentique, au raisonnement et à l'usage d'outils sur plusieurs… Lire la brève
Le 27 septembre 2026, NaiveAI a publié une étude de cas sur NaiveRT, moteur d'inférence conçu pour la vitesse de décodage en flux unique de son modèle Naive-N0.5-Flash dans les déploiements… Lire la brève
Le 25 septembre 2026, AWS a publié l'architecture qu'il emploie pour le post-entraînement par renforcement des modèles à mélange d'experts sur Amazon EKS, et chiffre à 40 % le gain de débit agrégé de… Lire la brève
open-source framework for large language model inference
Aucun article lié à cet acteur.
