GB200是NVIDIA推出的最新一代AI超級晶片,具有以下特點:
架構與組成
- 基於NVIDIA的Blackwell架構
- 結合了兩個NVIDIA B200 Tensor Core GPU和一個NVIDIA Grace CPU
- 通過900GB/s超低功耗NVLink晶片間互連
性能與規格
- 相比NVIDIA H100 Tensor Core GPU,在LLM推理工作負載上性能提升30倍
- 能耗和成本降低25倍
- GPU記憶體:最高384GB HBM3e,頻寬16 TB/s
- CPU:72個Arm Neoverse V2核心
- CPU記憶體:最高480GB LPDDR5X,頻寬512 GB/s
- FP4 Tensor Core性能:40 PFLOPS
應用場景
- 專為訓練和推理萬億參數生成式AI模型而設計
- 適用於最密集的計算工作負載
- 加速數據庫處理、物理模擬、ASIC設計等任務
系統集成
- GB200是NVIDIA GB200 NVL72機架式系統的核心組件
- NVL72系統集成了36個GB200超級晶片,共72個Blackwell GPU和36個Grace CPU
- 採用液冷技術,可擴展至數萬個GB200超級晶片
GB200代表了AI計算的一個重大飛躍,為下一代AI應用提供了強大的計算能力