FlashInfer 0.7.1 apporte le MoE quantifié à parallélisme d'experts sur Rubin et réduit de 19,5 % le cache KV de GLM53-NoPE
Le 9 octobre 2026, la bibliothèque de noyaux d'inférence FlashInfer, sur laquelle s'appuie notamment vLLM, a publié sa version 0.7.1. Les GPU Rubin (SM107) servent désormais des experts MoE en NVFP4… Lire la brève






