Image · Source originale
OUTILS · NVIDIA
Inférence IA privée et performante en production avec le Confidential Computing de NVIDIA
NVIDIA lance Confidential Computing pour sécuriser l'inférence des LLM en production via des CVMs et GPUs chiffrés, protégeant données sensibles et modèles propriétaires.
L'inférence des LLM expose de plus en plus de données sensibles et de contextes propriétaires, nécessitant des environnements d'exécution de confiance. NVIDIA Confidential Computing y répond en s'appuyant sur des machines virtuelles confidentielles (CVMs) à mémoire chiffrée et des GPUs confidentiels. Cette approche permet d'exécuter les charges d'inférence en production avec de hauts niveaux de confidentialité et de performance.
Chaleur 0
Pertinence 70
Nouveauté 60