主要仕様
| 項目 | NVIDIA公式仕様 |
|---|---|
| Superchip | NVIDIA GB10 Grace Blackwell |
| CPU | 20-core Arm(10× Cortex-X925 + 10× Cortex-A725) |
| システムメモリ | 128GB LPDDR5x coherent unified system memory |
| メモリ帯域幅 | 273GB/s |
| ストレージ | 4TB NVMe M.2 |
| ネットワーク | 10GbE RJ-45、ConnectX-7 NIC @ 200Gbps、Wi-Fi 7 |
| OS | NVIDIA DGX OS |
| 寸法 | 150 × 150 × 50.5mm |
128GBユニファイドメモリの意味
CPUとGPUが一貫性のあるメモリ空間を共有します。ただし「128GBのモデルをそのまま実行できる」という意味ではありません。モデルの重み以外に、実行環境、KVキャッシュ、中間バッファーなどが必要です。利用可能容量はランタイム、量子化、コンテキスト長、同時リクエスト数によって変わります。
モデルの可否を判断するときは、パラメータ数だけでなく、重みのデータ型、KVキャッシュ、ランタイムのオーバーヘッドを確認します。
Arm64を前提に選ぶ
DGX SparkのCPUはArmベースです。コンテナイメージ、Python wheel、ネイティブ拡張、サードパーティ製ツールがaarch64/arm64を提供しているか確認してください。x86_64向けの手順をそのまま適用できるとは限りません。
NGC CLIを利用する場合も、NVIDIA公式ガイドはArm64 Linux版を選ぶよう案内しています。
「最大1 PFLOP FP4」の読み方
NVIDIAの製品ページに記載される最大1 PFLOPは、スパース性を利用した理論上のFP4 Tensor Performanceです。特定のLLMで得られるトークン生成速度や学習速度を表す値ではありません。
実測値を比較する場合は、モデル、量子化、ランタイムと版数、プロンプト長、生成長、バッチ、電力・温度条件を揃える必要があります。本サイトでは条件を確認できない数値を掲載しません。