PLATFORM / 02

GB10を、数字だけで語らない。

DGX SparkはGrace Blackwellアーキテクチャを採用するコンパクトなAIコンピューターです。ここでは公式仕様と、実利用で別途検証すべき点を分けます。

主要仕様

項目NVIDIA公式仕様
SuperchipNVIDIA GB10 Grace Blackwell
CPU20-core Arm(10× Cortex-X925 + 10× Cortex-A725)
システムメモリ128GB LPDDR5x coherent unified system memory
メモリ帯域幅273GB/s
ストレージ4TB NVMe M.2
ネットワーク10GbE RJ-45、ConnectX-7 NIC @ 200Gbps、Wi-Fi 7
OSNVIDIA DGX OS
寸法150 × 150 × 50.5mm

128GBユニファイドメモリの意味

CPUとGPUが一貫性のあるメモリ空間を共有します。ただし「128GBのモデルをそのまま実行できる」という意味ではありません。モデルの重み以外に、実行環境、KVキャッシュ、中間バッファーなどが必要です。利用可能容量はランタイム、量子化、コンテキスト長、同時リクエスト数によって変わります。

モデルの可否を判断するときは、パラメータ数だけでなく、重みのデータ型、KVキャッシュ、ランタイムのオーバーヘッドを確認します。

Arm64を前提に選ぶ

DGX SparkのCPUはArmベースです。コンテナイメージ、Python wheel、ネイティブ拡張、サードパーティ製ツールがaarch64/arm64を提供しているか確認してください。x86_64向けの手順をそのまま適用できるとは限りません。

NGC CLIを利用する場合も、NVIDIA公式ガイドはArm64 Linux版を選ぶよう案内しています。

「最大1 PFLOP FP4」の読み方

NVIDIAの製品ページに記載される最大1 PFLOPは、スパース性を利用した理論上のFP4 Tensor Performanceです。特定のLLMで得られるトークン生成速度や学習速度を表す値ではありません。

実測値を比較する場合は、モデル、量子化、ランタイムと版数、プロンプト長、生成長、バッチ、電力・温度条件を揃える必要があります。本サイトでは条件を確認できない数値を掲載しません。

確認した公式資料