llama.cpp arme un canal de complétion RDMA et fait tomber de 100 % à 0,1 % l'occupation processeur de son serveur RPC
Le 27 septembre 2026, llama.cpp a fusionné une modification de son serveur RPC, le composant qui répartit l'exécution d'un modèle sur plusieurs machines. Ce serveur interrogeait la file RDMA en boucle active, ce qui occupait un cœur de processeur en permanence. La contribution arme à la place un canal de complétion de la pile RDMA, qui réveille le fil d'exécution à l'arrivée d'un événement ou à la déconnexion d'un pair. Son auteur, am17an, écrit n'avoir constaté aucune baisse de performance avec le partage par couche ni avec le partage par tenseur, et ramène l'occupation processeur de 100 % à 0,1 %. Le correctif ajoute 64 lignes et en retire 4 sur deux fichiers. Ouvert le 25 septembre, il a été fusionné par son propre auteur.





















