NVIDIA GB200 是一款前沿的 AI 超級芯片,專為加速大規模 AI 工作負載和高性能計算(HPC)應用而設計。
它集成了兩個 Blackwell 張量核心 GPU 和一個 Grace CPU,通過 NVIDIA 的 NVLink-C2C 技術連接,提供卓越的性能和效率。
NVIDIA GB200 的主要特點:
- 高性能計算:
GB200 結合了兩個 Blackwell GPU 和一個 Grace CPU,為 AI 訓練和推理任務提供強大的計算能力。 - 先進互聯技術:
使用 NVLink-C2C 技術,GB200 確保 CPU 和 GPU 之間的高帶寬、低延遲通信,提升數據吞吐量並減少瓶頸。 - 能源效率:
GB200 NVL72 機架系統的液冷設計相比傳統的空冷系統提供高達 25 倍的能源節約,非常適合希望減少碳足跡的數據中心。
部署與可用性:
NVIDIA 與多家製造商合作生產和部署基於 GB200 的系統:
- 戴爾科技(Dell Technologies):
宣布已出貨首批 B200 NVL72 伺服器機架,最多可聯網 72 顆 Blackwell 芯片。 - 鴻海科技:
計劃在墨西哥建設全球最大的 NVIDIA GB200 超級芯片製造基地,顯示產能將大幅提升。 - 超微(Supermicro):
推出了針對 NVIDIA Blackwell 架構優化的液冷解決方案,包括 GB200 NVL72 超級集群,專為高密度數據中心部署設計。
性能與應用:
GB200 NVL72 系統旨在處理實時大型語言模型(LLM)推理,相較於上一代產品,性能提升多達 30 倍。
它還加速了 AI 訓練工作負載,支持 FP4 AI 和 FP8 精度,滿足現代 AI 應用的需求。
行業採用情況:
主要的雲服務提供商和企業正在採用基於 GB200 的系統來提升其 AI 能力。例如:
- 軟銀(SoftBank Corp.) 正在使用 NVIDIA Blackwell 平台建設日本最強大的 AI 超級計算機。