Entreprise

SGLang

22 actualités

Dernières brèves

Nouveau produit / service

Inférence : LMSYS lance le consortium SGLang avec NVIDIA, AMD, Intel, Google, Meta et Cloudflare pour orienter son moteur open source

Le 12 novembre 2026, LMSYS Org, l'organisation à but non lucratif qui développe le moteur d'inférence open source SGLang, a lancé le consortium SGLang lors du premier SGLang Summit, organisé à San… Lire la brève

Mise à jour de modèle

SGLang 0.5.23 réunit 1 007 contributions, accélère DeepSeek-V4.1 sur GB300 et tourne sur les TPU7x de Google

Le 2 novembre 2026, le projet SGLang a publié la version 0.5.23 de son moteur d'inférence, qui agrège 1 007 pull requests de 257 contributeurs. Sur GB300, DeepSeek-V4.1 gagne jusqu'à 1,5 fois en… Lire la brève

Faille / vulnérabilité

Cloudflare reconnaît que 155 réponses de GLM-5.3 sur Workers AI ont contenu des données d'autres clients, par une erreur de configuration et un bug de SGLang

Le 26 octobre 2026, Cloudflare a publié le rapport d'un défaut d'isolation entre clients sur le modèle GLM-5.3 de Z.ai servi par Workers AI. Entre le 27 août et le 9 septembre, 155 réponses à des… Lire la brève

Mise à jour de modèle

llm-d 1.0 : la pile d'inférence distribuée pour Kubernetes ajoute files par client, routeur en haute disponibilité et mises à jour sans coupure

Le 20 octobre 2026, le projet open source llm-d a publié la version 1.0 de sa couche de routage et d'ordonnancement placée devant les moteurs vLLM et SGLang, sur GPU NVIDIA, AMD et Intel comme sur… Lire la brève

API / plateforme développeur

Google publie en open source TorchTPU, qui fait tourner PyTorch nativement sur ses TPU, codéveloppé avec Meta et intégré à Hugging Face

Le 20 octobre 2026, à la PyTorch Conference, Google a annoncé la publication en open source sur GitHub de TorchTPU, sa pile PyTorch native pour ses puces TPU, codéveloppée avec l'équipe PyTorch de… Lire la brève

Mise à jour de modèle

SGLang 0.5.22 agrège 950 contributions et multiplie jusqu'à 2,3 fois le débit par GPU de DeepSeek-V4.1 sur H200

Le 19 octobre 2026, le projet SGLang a publié la version 0.5.22 de son moteur de service de modèles, qui agrège 950 pull requests de 245 contributeurs. DeepSeek-V4.1 y gagne jusqu'à 2,3 fois de débit… Lire la brève

Nouveau modèle

Reflection AI met en ligne les poids de Beam, modèle de code agentique de 501 milliards de paramètres sous licence Apache 2.0

Le 16 octobre 2026, le laboratoire américain Reflection AI a mis en ligne sur Hugging Face les poids de Beam, son premier modèle, présenté le 5 octobre avec une sortie promise pour le mois. Ce modèle… Lire la brève

Mise à jour de modèle

slime 0.4.0, cadre d'apprentissage par renforcement derrière les modèles GLM, distribue ses rollouts sur la grappe et relance l'entraînement sans arrêter SGLang

Le 9 octobre 2026, l'équipe de slime, cadre de post-entraînement par apprentissage par renforcement qui combine Megatron et SGLang et a servi aux modèles GLM de Z.ai, a publié la version 0.4.0. Les… Lire la brève

Nouvelle fonctionnalité

NVIDIA Dynamo route par session les appels des agents et gagne 11 à 15 % de débit sur des rollouts d'apprentissage par renforcement face à verl

Le 8 octobre 2026, NVIDIA a présenté sur le blog de PyTorch l'ordonnancement par session de Dynamo, son cadre de service d'inférence au-dessus de vLLM et SGLang. Un identifiant de session commun… Lire la brève

Puce / GPU / matériel

SGLang fait tourner son exécuteur PyTorch standard sur les Mac Apple Silicon, sans passer par son moteur MLX

Dans la nuit du 4 au 5 octobre 2026, le moteur d'inférence SGLang a fusionné une contribution qui ajoute une plateforme Apple Silicon (MPS) à son exécuteur de modèles PyTorch standard, celui… Lire la brève

Lire le profil complet Mis à jour le 5 septembre 2026

open-source framework for large language model inference

Articles liés

1 au total