Ports E/S et protocoles · leçon 8 sur 16

RDMA

Plan du cours

Pour conclure

  1. Bilan du cours

01
Le problème des réseaux classiques

Dans un réseau TCP/IP classique, quand l'ordinateur A envoie des données à l'ordinateur B, les données font de nombreux arrêts :

1
Le CPU lit les données en mémoire
2
L'OS copie les données dans des zones tampons (buffers)
3
Envoi sur la carte réseau, traversée du câble
4
Le CPU de l'ordinateur B reçoit, copie, vérifie, range en mémoire ainsi de suite
⚠ Résultat : énorme consommation de CPU et latence élevée. J'aimerais vous présenter un cas concret : Nous entendons souvent parler de datacenter pour L'IA. Comme nous le savons, l'AI est une très grande consommatrice de données. avec une architecture classique Les GPU d'IA passeraient 90% de leur temps à attendre les données plutôt qu'à calculer.

02
La solution : RDMA

Le RDMA (Remote Direct Memory Access) crée un raccourci direct : la carte réseau lit dans la RAM de A et écrit directement dans la RAM de B. Tout cela sans intervention des CPU ni de l'OS.

 Zéro copie
Les données ne sont pas copiées entre l'application et l'OS. Un seul transfert direct de bout en bout.
 CPU Offload
Les processeurs des deux machines ne sont quasiment pas sollicités. Ils peuvent continuer à calculer pendant le transfert.
Latence ultra-basse
Quelques microsecondes vs dizaines de microsecondes en TCP/IP classique. Indispensable pour le NVMe-oF.

03
L'intérêt de RDMA :

Pour tirer partie de cette puissante de transfert, nous pouvons combiner NVMe-oF (NVMe over Fabrics) qui est le protocole NVMe avec un transport réseau RDMA.
Résultat : un serveur accède à un disque NVMe distant à la même vitesse que s'il était branché en local.

Nous prenions l'exemple des infrastructures IA : car pour entraîner de grands modèles, des milliers de GPU doivent se synchroniser toutes les millisecondes. RDMA permet à la carte réseau d'un serveur d'écrire directement dans la mémoire d'un GPU distant sans passer par les CPU. C'est une technique pour les clusters d'IA modernes.

Vous l'aurez compris, RDMA agit de concert avec un protocole réseau afin de transmettre la donnée d'un point A à un point B. Voici un petit résumé des protocoles dans un réseau SAN (nous y reviendrons plus en détail dans les chapitres suivants) :

RDMA via RoCE v2
RDMA sur Ethernet standard : le plus utilisé aujourd'hui. Requiert un réseau "sans perte" (lossless).
RDMA via iWARP
RDMA sur TCP/IP. Plus simple à déployer (réseau normal), légèrement moins performant.
InfiniBand
La variante originale : réseau haute performance dédié, surtout dans les supercalculateurs.
À retenir
  • RDMA permet un transfert de mémoire à mémoire sans CPU ni OS : zero-copy, CPU offload
  • Latence RDMA : quelques µs vs dizaines de µs en TCP/IP classique
  • NVMe-oF + RDMA = accès à un disque distant à la vitesse d'un disque local
  • Essentiel pour l'IA : permet aux milliers de GPU de se synchroniser sans bloquer les CPU

Cours mis à jour en avril 2026.