Der virtuelle Computer der Serie ND A100 v4 ist eine neues Flaggschiff der Azure-GPU-Familie. Diese Größen sind für High-End-Deep-Learning-Training und eng gekoppelte vertikal und horizontal skalierbare HPC-Workloads konzipiert.
Die kleinste Bereitstellung der Serie ND A100 v4 besteht aus einer einzelnen VM und acht NVIDIA Ampere A100 Tensor Core-GPUs mit 40 GB. ND A100 v4-basierte Bereitstellungen können vertikal auf Tausende von GPUs mit einer Verbindungsbandbreite von 1,6 TB/s pro VM hochskaliert werden. Jede GPU in der VM verfügt über eine eigene dedizierte, topologieunabhängige NVIDIA Mellanox HDR InfiniBand-Verbindung mit 200 GB/s Bandbreite. Diese Verbindungen werden automatisch zwischen VMs in derselben Azure VM-Skalierungsgruppe konfiguriert und unterstützen GPU Direct-RDMA.
Jede GPU verfügt über NVLINK 3.0-Konnektivität für die Kommunikation innerhalb der VM, unterstützt durch 96 physische AMD Epyc™ 7V12 (Rome) CPU-Kerne der 2. Generation.
Diese Instanzen bieten hervorragende Leistung für zahlreiche KI-, ML- und Analysetools mit integrierter Unterstützung für GPU-Beschleunigung. Dazu zählen beispielsweise TensorFlow, Pytorch, Caffe, RAPIDS und andere Frameworks. Darüber hinaus unterstützt die horizontal skalierbare InfiniBand-Verbindung viele vorhandene KI- und HPC-Tools, die auf den NCCL2-Kommunikationsbibliotheken von NVIDIA für das nahtlose GPU-Clustering aufbauen.
Hostspezifikationen
| Teil |
Menge
Anzahl Einheiten |
Spezifikationen
SKU-ID, Leistungseinheiten usw. |
| Prozessor |
96 vCPUs |
AMD EPYC 7V12 (Rom) [x86-64] |
| Arbeitsspeicher |
900 GiB |
|
| Lokaler Speicher |
1 Datenträger |
6.000 GiB |
| Remotespeicher |
32 Datenträger |
80.000 IOPS
800 MBit/s |
| Netzwerk |
8 NICs |
24.000 MBit/s |
| Schnellinfos |
8 GPUs |
Nvidia A100 GPU (40 GB) |
Featureunterstützung
Storage Premium: Unterstützt
Storage Premium-Zwischenspeicherung: Unterstützt
Live-Migration: Nicht unterstützt
Updates mit Speicherbeibehaltung: Nicht unterstützt
VMs der 2. Generation: unterstützt
VMs der 1. Generation: nicht unterstützt
Beschleunigter Netzwerkbetrieb: Unterstützt
Kurzlebiger Betriebssystemdatenträger: unterstützt
Geschachtelte Virtualisierung: Nicht unterstützt
Größen der Serie
vCPUs (Menge) und Arbeitsspeicher für jede Größe
| Name der Größe |
vCPUs (Anzahl) |
Arbeitsspeicher (GB) |
| Standard_ND96asr_v4 |
96 |
900 |
VM Basics-Ressourcen
Lokale Speicherinformationen (temp) für jede Größe
| Name der Größe |
Max. temporäre Speicherdatenträger (Menge) |
Temporäre Datenträgergröße (GiB) |
| Standard_ND96asr_v4 |
1 |
6.000 |
Speicherressourcen
Tabellen-Definitionen
- 1Die temporäre Datenträgergeschwindigkeit unterscheidet sich häufig zwischen RR (Random Read)- und RW (Random Write)-Vorgängen. RR-Vorgänge sind in der Regel schneller als RW-Vorgänge. Die RW-Geschwindigkeit ist bei Serien, für die nur der RR-Geschwindigkeitswerte aufgeführt sind, in der Regel geringer als die RR-Geschwindigkeit.
- Speicherkapazität wird in GiB-Einheiten oder 1.024^3 Bytes angezeigt. Beachten Sie beim Vergleich von in GB (1000^3 Bytes) gemessenen Datenträgern mit in GiB (1024^3) gemessenen Datenträgern, dass die in GiB angegebenen Kapazitätszahlen kleiner erscheinen können. Beispiel: 1.023 GiB = 1.098,4 GB.
- Der Datenträgerdurchsatz wird in E/A-Vorgängen pro Sekunde (Input/Output Operations Per Second, IOPS) und MB/s gemessen, wobei MB/s = 10^6 Bytes/Sekunde beträgt.
- Weitere Informationen, wie Sie die beste Speicherleistung für Ihre VMs erzielen können, finden Sie unter Leistung von virtuellen Computern und Datenträgern.
Remotespeicherinformationen (nicht zwischengespeichert) für jede Größe
| Name der Größe |
Max. Remotespeicherdatenträger (Menge) |
Nicht zwischengespeicherte Datenträger-IOPS |
Nicht zwischengespeicherte Datenträgergeschwindigkeit (MBit/s) |
| Standard_ND96asr_v4 |
32 |
80.000 |
800 |
Speicherressourcen
Tabellen-Definitionen
- 1Einige Größen unterstützen Bursting, um die Datenträgerleistung vorübergehend zu erhöhen. Burst-Geschwindigkeiten können bis zu 30 Minuten gehalten werden.
- 2Special Storage bezieht sich entweder auf Ultra Disk oder Premium SSD v2-Speicher.
- Speicherkapazität wird in GiB-Einheiten oder 1.024^3 Bytes angezeigt. Beachten Sie beim Vergleich von in GB (1000^3 Bytes) gemessenen Datenträgern mit in GiB (1024^3) gemessenen Datenträgern, dass die in GiB angegebenen Kapazitätszahlen kleiner erscheinen können. Beispiel: 1.023 GiB = 1.098,4 GB.
- Der Datenträgerdurchsatz wird in E/A-Vorgängen pro Sekunde (Input/Output Operations Per Second, IOPS) und MB/s gemessen, wobei MB/s = 10^6 Bytes/Sekunde beträgt.
- Datenträger können mit oder ohne Cache betrieben werden. Beim Datenträgerbetrieb mit Cache ist der Hostcachemodus auf ReadOnly oder ReadWrite festgelegt. Beim Datenträgerbetrieb ohne Cache ist der Hostcachemodus auf None festgelegt.
- Weitere Informationen, wie Sie die beste Speicherleistung für Ihre VMs erzielen können, finden Sie unter Leistung von virtuellen Computern und Datenträgern.
Netzwerkschnittstelleninformationen für jede Größe
| Name der Größe |
Max. NICs (Anzahl) |
Maximale Bandbreite (Mbps) |
| Standard_ND96asr_v4 |
8 |
24.000 |
Netzwerkressourcen
Tabellen-Definitionen
- Erwartete Netzwerkbandbreite ist die maximale aggregierte Bandbreite pro VM-Typ, die NIC-übergreifend für alle Ziele zugeordnet ist. Weitere Informationen finden Sie unter Netzwerkdurchsatz virtueller Computer
- Die Einhaltung von Obergrenzen wird nicht garantiert. Grenzwerte dienen als Richtlinien bei der Auswahl der richtigen VM-Art für die jeweilige Anwendung. Die tatsächliche Netzwerkleistung hängt von mehreren Faktoren ab. Hierzu zählen beispielsweise Netzwerküberlastung, Anwendungslasten und die Netzwerkeinstellungen. Informationen zum Optimieren des Netzwerkdurchsatzes finden Sie unter Optimieren des Netzwerkdurchsatzes für virtuelle Azure-Computer.
- Unter Umständen muss eine bestimmte Version ausgewählt oder der virtuelle Computer optimiert werden, um die erwartete Netzwerkbandbreite unter Linux oder Windows zu erzielen. Weitere Informationen finden Sie unter Testen der Bandbreite/des Durchsatzes (NTTTCP).
Beschleunigerinfo (GPUs, FPGAs usw.) zu jeder Größe
| Name der Größe |
Beschleuniger (Anzahl) |
Arbeitsspeicher der Beschleuniger (GB) |
| Standard_ND96asr_v4 |
8 |
320 |
Liste aller verfügbaren Größen: Größen
Preisrechner: Preisrechner
Informationen zu Datenträgertypen: Datenträgertypen
Nächste Schritte
Nutzen Sie die neuesten für Ihre Workloads verfügbaren Leistung und Funktionen, indem Sie die Größe eines virtuellen Computers ändern.
Nutzen Sie die von Microsoft selbst entwickelten ARM-Prozessoren mit Azure Cobalt-VMs.
Weitere Informationen finden Sie unter Überwachen von Azure-VMs.