2024-11-24|閱讀時間 ‧ 約 0 分鐘

NVIDIA GB200

NVIDIA GB200 是一款前沿的 AI 超級芯片,專為加速大規模 AI 工作負載和高性能計算(HPC)應用而設計。


它集成了兩個 Blackwell 張量核心 GPU 和一個 Grace CPU,通過 NVIDIA 的 NVLink-C2C 技術連接,提供卓越的性能和效率。


NVIDIA GB200 的主要特點:

  • 高性能計算:
    GB200 結合了兩個 Blackwell GPU 和一個 Grace CPU,為 AI 訓練和推理任務提供強大的計算能力。
  • 先進互聯技術:
    使用 NVLink-C2C 技術,GB200 確保 CPU 和 GPU 之間的高帶寬、低延遲通信,提升數據吞吐量並減少瓶頸。
  • 能源效率:
    GB200 NVL72 機架系統的液冷設計相比傳統的空冷系統提供高達 25 倍的能源節約,非常適合希望減少碳足跡的數據中心。

部署與可用性:

NVIDIA 與多家製造商合作生產和部署基於 GB200 的系統:

  • 戴爾科技(Dell Technologies):
    宣布已出貨首批 B200 NVL72 伺服器機架,最多可聯網 72 顆 Blackwell 芯片。
  • 鴻海科技:
    計劃在墨西哥建設全球最大的 NVIDIA GB200 超級芯片製造基地,顯示產能將大幅提升。
  • 超微(Supermicro):
    推出了針對 NVIDIA Blackwell 架構優化的液冷解決方案,包括 GB200 NVL72 超級集群,專為高密度數據中心部署設計。

性能與應用:

GB200 NVL72 系統旨在處理實時大型語言模型(LLM)推理,相較於上一代產品,性能提升多達 30 倍。


它還加速了 AI 訓練工作負載,支持 FP4 AI 和 FP8 精度,滿足現代 AI 應用的需求。



行業採用情況:

主要的雲服務提供商和企業正在採用基於 GB200 的系統來提升其 AI 能力。例如:

  • 軟銀(SoftBank Corp.) 正在使用 NVIDIA Blackwell 平台建設日本最強大的 AI 超級計算機。
分享至
成為作者繼續創作的動力吧!
© 2024 vocus All rights reserved.