Bandes passantes réseau et GPU

Des bandes passantes réseau élevées peuvent améliorer les performances de vos charges de travail distribuées s'exécutant sur des instances de machines virtuelles (VM) Compute Engine.

Présentation

La bande passante réseau maximale disponible pour les VM auxquelles sont associés des GPU sur Compute Engine est la suivante :

  • Pour les VM à usage général N1 auxquelles sont associés des GPU P100, P4 et K80, la bande passante réseau maximale disponible est de 32 Gbit/s. Ce débit est semblable au débit maximal disponible pour les VM N1 sans GPU associé. Pour en savoir plus sur les bandes passantes réseau, consultez la section Débit maximal de sortie de données.
  • Pour les VM à usage général N1 auxquelles sont associés des GPU T4 et V100, vous pouvez obtenir une bande passante réseau maximale de 100 Gbit/s, en fonction de la combinaison du nombre de GPU et de processeurs virtuels.
  • Pour les VM optimisées pour les accélérateurs A2 et G2, vous pouvez obtenir une bande passante réseau maximale de 100 Gbit/s, en fonction du type de machine.
  • Pour les VM optimisées pour les accélérateurs A3, vous pouvez obtenir une bande passante réseau maximale de 1 000 Gbit/s (1 Tbit/s).

Bande passante réseau et carte d'interface réseau virtuelle Google (gVNIC)

Pour obtenir les débits de bande passante réseau plus élevés (50 Gbit/s ou plus) appliqués à vos VM GPU, il est recommandé d'utiliser la carte d'interface réseau virtuelle Google (gVNIC). Pour en savoir plus sur la création de VM GPU qui utilisent gVNIC, consultez la section Créer des VM qui utilisent des bandes passantes plus élevées.

VM optimisées pour les accélérateurs

Cette section décrit la bande passante réseau maximale disponible pour les VM optimisées pour les accélérateurs A3, A2 et G2.

VM A3

Chaque type de machine A3 est associé à un nombre fixe de GPU NVIDIA H100 80 Go. Chaque type de machine possède également un nombre de processeurs virtuels et une taille de mémoire fixes.

Chaque VM a3-highgpu-8g possède cinq cartes d'interface réseau physiques, dont quatre partagent le même bus d'interconnexion de composants périphériques (PCIe) et ont un alignement non uniforme d'accès à la mémoire (NUMA) d'une carte d'interface réseau pour deux GPU NVIDIA H100 80 Go. Ces quatre cartes réseau physiques sont idéales pour la communication entre GPU à bande passante élevée. L'autre carte d'interface réseau physique réside sur un bus PCIe distinct et est idéale pour les autres besoins de mise en réseau. Chaque carte d'interface réseau a une bande passante maximale de 200 Gbit/s, soit une bande passante maximale de 1 000 Gbit/s (1 Tbit/s) par VM.
Type de machine Nombre de GPU vCPU Mémoire Bande passante réseau maximale
a3-highgpu-8g 8 208 1 872 Go 1 000 Gbit/s

VM A2

Chaque type de machine A2 est associé à un nombre fixe de GPU NVIDIA A100 40 Go ou NVIDIA A100 80 Go. Chaque type de machine possède également un nombre de processeurs virtuels et une taille de mémoire fixes.

A100 40 Go

Type de machine Nombre de GPU vCPU Mémoire Bande passante réseau maximale
a2-highgpu-1g 1 12 85 Go 24 Gbit/s
a2-highgpu-2g 2 24 170 Go 32 Gbit/s
a2-highgpu-4g 4 48 340 Go 50 Gbit/s
a2-highgpu-8g 8 96 680 Go 100 Gbit/s
a2-highgpu-16g 16 96 1360 Go 100 Gbit/s

A100 80 Go

Type de machine Nombre de GPU vCPU Mémoire Bande passante réseau maximale
a2-ultragpu-1g 1 12 170 Go 24 Gbit/s
a2-ultragpu-2g 2 24 340 Go 32 Gbit/s
a2-ultragpu-4g 4 48 680 Go 50 Gbit/s
a2-ultragpu-8g 8 96 1360 Go 100 Gbit/s

Configuration de la VM G2

Chaque type de machine G2 est associé à un nombre fixe de GPU NVIDIA L4 et de processeurs virtuels. Chaque type de machine G2 dispose également d'une mémoire par défaut et d'une plage de mémoire personnalisée. La plage de mémoire personnalisée définit la quantité de mémoire que vous pouvez allouer à votre VM pour chaque type de machine. Vous pouvez spécifier votre mémoire personnalisée lors de la création de la VM.

Type de machine Nombre de GPU vCPU Mémoire par défaut Plage de mémoire personnalisée Bande passante réseau maximale
g2-standard-4 1 4 vCPU 16 Go 16 à 32 Go 10 Gbit/s
g2-standard-8 1 8 vCPU 32 Go 32 à 54 Go 16 Gbit/s
g2-standard-12 1 12 processeurs virtuels 48 Go 48 à 54 Go 16 Gbit/s
g2-standard-16 1 16 vCPU 64 Go 54 à 64 Go 32 Gbit/s
g2-standard-24 2 24 processeurs virtuels 96 Go 96 à 108 Go 32 Gbit/s
g2-standard-32 1 32 vCPU 128 Go 96 à 128 Go 32 Gbit/s
g2-standard-48 4 48 processeurs virtuels 192 Go 192 à 216 Go 50 Gbit/s
g2-standard-96 8 96 vCPU 384 Go 384 à 432 Go 100 Gbit/s

VM GPU N1

Pour les VM à usage général N1 auxquelles sont associés des GPU T4 et V100, vous pouvez obtenir une bande passante réseau maximale de 100 Gbit/s, en fonction de la combinaison du nombre de GPU et de processeurs virtuels. Pour toutes les autres VM GPU N1, consultez la page Présentation.

Consultez la section suivante pour calculer la bande passante réseau maximale disponible pour vos VM T4 et V100 en fonction du modèle de GPU, du processeur virtuel et du nombre de GPU.

Moins de cinq processeurs virtuels

Pour les VM T4 et V100 comportant cinq processeurs virtuels ou moins, la bande passante réseau maximale disponible est de 10 Gbit/s.

Plus de cinq processeurs virtuels

Pour les VM T4 et V100 comportant plus de cinq processeurs virtuels, la bande passante réseau maximale est calculée en fonction du nombre de processeurs virtuels et de GPU pour cette VM.

Modèle GPU Number of GPUs Calcul de la bande passante réseau maximale
NVIDIA V100 1 min(vcpu_count * 2, 32)
2 min(vcpu_count * 2, 32)
4 min(vcpu_count * 2, 50)
8 min(vcpu_count * 2, 100)
NVIDIA T4 1 min(vcpu_count * 2, 32)
2 min(vcpu_count * 2, 50)
4 min(vcpu_count * 2, 100)

Créer des VM à bande passante élevée

Pour créer des VM qui utilisent des bandes passantes réseau plus élevées, consultez la section Utiliser une bande passante réseau plus élevée.

Pour tester ou vérifier la vitesse de bande passante d'une configuration, vous pouvez utiliser le test d'analyse comparative. Pour en savoir plus, consultez la section Vérifier la bande passante réseau.

Étape suivante