NVIDIA PAIR : un routeur d'inférence virtuel pour mutualiser le calcul sur le réseau local

NVIDIA détaille PAIR (Virtual Inference Router), une solution destinée à répartir la charge d'inférence entre plusieurs machines d'un réseau local. L'outil vise à accompagner la montée des workflows multi-agents, où un agent principal délègue des tâches à des sous-agents et où plusieurs sessions tournent en parallèle. L'objectif est d'augmenter la puissance de calcul disponible sans dépendre uniquement du cloud.