AI 晶片的競爭往往聚焦於算力指標，如 TFLOPs、TOPS 或製程技術。然而，在大模型普及的 2025 年，Live Data Streaming（即時資料串流）正重新定義 AI 平台的價值。來自中國的華為昇騰 910B與美國的NVIDIA H100在理論性能上旗鼓相當，但其架構設計哲學在應對動態資料流時展現顯著差異。本文將深入分析兩者在即時資料處理中的表現，並探討誰更能適應未來的 AI 應用需求。
離線算力對決：昇騰與 NVIDIA 的性能基準
根據華為官方資料，昇騰 910B 支援最高 320 TFLOPs（BF16） 和 640 TOPS（INT8），採用 7nm 製程，單晶片算力接近 NVIDIA A100（312 TFLOPs，BF16）。然而，MLPerf 基準測試（2024 年最新報告）顯示，昇騰 910B 在 ResNet-50 訓練任務中，吞吐量約為 A100 的 85%，主要受限於 MindSpore 框架的優化程度 [1]。
華為的 CloudMatrix 叢集（384 顆昇騰 910B）宣稱總算力達 300 PFLOPs，採用 HCCS 互連（頻寬 900 GB/s）。相較之下，NVIDIA 的 DGX H100 叢集（8 顆 H100，NVLink 4.0，頻寬 3 TB/s）在 MLPerf 語言模型訓練中展現更高擴展效率，通信延遲低至 1.2 微秒 [2]。這些數據表明，在離線訓練場景下，NVIDIA 的硬體互連與軟體棧更具優勢，但昇騰在算力密度和功耗（約 310W 對比 H100 的 700W）上表現出色。
然而，離線訓練假設資料已靜態儲存並可批量處理。在真實世界中，AI 應用日益依賴即時生成、非同步的動態資料流，這對晶片架構提出了全新挑戰。
即時資料串流：AI 平台的新戰場
2025 年的 AI 應用，從智慧城市交通到實時推薦系統，均要求模型基於動態資料流持續演進。這些資料流具有多源頭、異構格式、高延遲敏感性等特徵，驅使 AI 平台不僅追求算力，更需高效協調資料處理流程，包括：
- 非同步資料接收
- 快速預處理（如轉碼、解壓）
- 動態小批次訓練（Dynamic Batching）
- 模型增量更新（Incremental Training）
例如，某電商平台的實時推薦系統每天處理約 5 PB 的非結構化資料（點擊流、用戶行為 / 估算值），要求模型每天更新一次以適應用戶偏好變化 [3]。這類場景考驗晶片的資料吞吐與軟體生態的整合能力。
NVIDIA 的 Streaming-Native 生態：從 DALI 到 Triton
NVIDIA 在即時資料處理中擁有成熟的工具鏈：
- DALI（Data Loading Library）：支援非同步圖片/影片預處理，與 GPU 流水線無縫整合。在 1080p 影片解碼任務中，DALI 比 CPU 預處理快 3.5 倍 [4]。
- Triton Inference Server：支援多模型動態切換，整合 Apache Kafka 實現資料流推論，延遲低至 10 毫秒，適合實時語音或視覺應用 [5]。
- PyTorch + TorchData：提供 DataPipe 框架，支援分散式資料流處理，與 Kafka、Spark 等企業級平台相容。
NVIDIA 的 CUDA 生態（涵蓋 4000+ 開源庫）進一步降低了開發門檻。例如，某自動駕駛公司利用 Triton + DALI 實現了每秒 30 幀的道路物件檢測，模型更新週期縮短至 15 分鐘 [6]。
華為昇騰的優勢與挑戰：本地化與生態瓶頸
昇騰 910B 的設計強調計算密度與能效，HCCS 互連支援高效晶片間通信，適合大規模離線訓練。例如，中國某超算中心採用 CloudMatrix 訓練多模態大模型，功耗比 NVIDIA 叢集低 20% [7]。此外，昇騰在中國市場具備本地化優勢，與鯤鵬伺服器、鴻蒙系統整合，廣泛應用於智慧城市與工業 IoT 項目。
然而，昇騰的軟體棧 MindSpore 在即時資料處理中存在局限：
- 有限的流式支援：MindSpore 2.3 版對 Kafka 的原生整合僅支援基本消息隊列，缺乏類似 PyTorch DataPipe 的動態批次處理功能 [8]。
- 生態成熟度：截至 2025 年，MindSpore 開源社區貢獻者約 2000 人，遠低於 PyTorch 的 1.8 萬人，導致多模態 DataLoader 等模組開發滯後 [9]。
- 部署複雜性：開發者需透過 ModelArts 中間件串接 IoT 或語音數據，增加 20%-30% 的部署時間 [10]。
儘管如此，華為積極補足短板。例如，2024 年推出的 ModelArts 4.0 增強了流式數據預處理能力，支援 H.265 影片解碼，性能接近 DALI [11]。
地緣政治影響：華為的外部挑戰
美國對華為的技術制裁（包括先進製程與 EDA 工具限制）影響了昇騰的硬體迭代與全球生態擴展。儘管華為透過自研 7nm 製程與 MindSpore 維持競爭力，但與 NVIDIA 的 4nm H100（2024 年量產）相比，製程差距可能在 2026 年進一步擴大 [12]。然而，中國市場的政策支持（如國產化採購）為昇騰提供了穩定需求，2024 年昇騰在中國 AI 晶片市場佔比達 25% [13]。
誰是未來 AI 平台？
在即時資料串流時代，AI 平台的競爭力取決於「資料與運算的協同效率」。綜合分析：
- 離線訓練場景：昇騰 910B 憑藉高能效與本地化優勢，適合中國市場的大規模語言模型訓練，成本約為 NVIDIA 方案的 70% [14]。
- 即時資料應用：NVIDIA H100 憑藉成熟的軟體生態與高效資料流水線，在推薦系統、自動駕駛等場景中更具適應性，開發週期可縮短 30% [15]。
未來的 AI 平台不再是單純的算力競賽，而是資料節奏與運算能力的共舞。NVIDIA 目前在全球市場佔據領先，但華為在本地化場景與成本控制上的潛力不容忽視。
參考文獻
- MLPerf Training v4.0 Results, 2024.
- NVIDIA DGX H100 Technical Whitepaper, 2024.
- Alibaba Cloud, "Real-Time Recommendation System Case Study," 2024.
- NVIDIA DALI Documentation, 2025.
- Triton Inference Server User Guide, 2024.
- NVIDIA Automotive Summit, 2024.
- China Supercomputing Center Report, 2024.
- MindSpore 2.3 Release Notes, 2024.
- GitHub Community Metrics, 2025.
- Huawei ModelArts Developer Feedback, 2024.
- Huawei Cloud ModelArts 4.0 Announcement, 2024.
- TSMC Industry Report, 2025.
- IDC China AI Chip Market Analysis, 2024.
- Huawei Ascend Cost Analysis, 2024.
- NVIDIA Developer Survey, 2024.
