Interconnexion haute bande passante NVLink

Définition

NVLink est une technologie d'interconnexion proprietaire de NVIDIA qui relie plusieurs GPU entre eux avec un debit de donnees bien superieur a celui du bus PCIe standard. Elle permet a plusieurs cartes graphiques de partager memoire et calculs comme si elles formaient un seul acce lerateur logique, condition indispensable pour entrainer ou faire tourner en inference des modeles de langage dont la taille depasse la memoire d'un seul GPU. Sans une interconnexion rapide, les echanges de donnees entre puces deviennent le goulot d'etranglement qui limite la vitesse d'entrainement et augmente la latence d'inference. NVLink equipe les serveurs IA haut de gamme, notamment les architectures DGX et les clusters de calcul utilises par les grands fournisseurs de cloud pour entrainer les modeles fondation. Des variantes concurrentes existent, comme Infinity Fabric chez AMD ou les interconnexions optiques propres a certains hyperscalers. Pour une organisation qui evalue une infrastructure d'IA sur site ou negocie un contrat d'hebergement GPU, la bande passante d'interconnexion est un critere technique determinant au meme titre que la puissance de calcul brute : elle conditionne directement le temps d'entrainement, le cout par entrainement et la capacite a servir des modeles volumineux avec une latence acceptable pour les utilisateurs finaux.