NVIDIA DGX SYSTEM

新GPU A100®の演算性能は、倍精度で19.5TFLOPSと従来のV100の約2.5倍、単精度は「TF32」と呼ばれるFP32とFP16のハイブリッド方式を採用しソフトウェアの改編の必要なく 312TFLOPSのスループットを実現、ディープラーニング推論性能は1,248TOPSといずれもV100の約20倍の演算性能を誇り、8基のA100®を搭載したDGX A100®のAI性能は1ノードで実に5PFLOPSに達します。

DGX A100®はGPUに最新のAmpereアーキテクチャである A100 GPU8基を双方向600GB/Sの新世代NVSwitch で結合しています。CPUはAMDのRome EPYC7742 64コア を採用。ストレージはOS用として1.92TB NVMeSSDをRAID-1で搭載し冗長性を確保、さらにキャッシュ用として高速なU.2 NVNeをRAID-0構成で15TB（3.84TBx4基）の容量をオールフラッシュで提供。
外部インターコネクトはMellanox ConnectX®-6 HDR 200Gb/s のQSFP56ポートを9基装備しスケールアップを強力にサポートする仕様です。
さらに、新たに追加された MIG（Multi instance gpu）機能は A100 GPUを7つのインスタンスに分割して、メモリ、キャッシュ、コンピューティングコアなどのリソースを割り当てて利用できます。1台の DGX A100 で最大56のインスタンスを立ててフレキシブルにリソースを配分し、推論、学習、HPC といった複数のワークロードを互いのレイテンシとスループットに影響を与えることなく同時に実行することが可能になります。

TESLA V100（Volta）は倍精度で7.5 TFLOPS、単精度で15.0TFLOPS 性能に加えてVolta世代から搭載された Tensor Core により 120 TFLOPS 演算性能を実現、深層学習では12倍，認識では6倍の性能を引き出します。
各GPUを双方向50GB/Secという広帯域NV-LINKで相互接続し、マルチGPUの恩恵を最大限に引き出します。