高頻寬記憶體(HBM)和傳統伺服器DRAM的性能特徵
更新於 2024/12/20閱讀時間約 2 分鐘
投資理財內容聲明
- 文內如有投資理財相關經驗、知識、資訊等內容，皆為創作者個人分享行為。
- 有價證券、指數與衍生性商品之數據資料，僅供輔助說明之用，不代表創作者投資決策之推介及建議。
- 閱讀同時，請審慎思考自身條件及自我決策，並應有為決策負責之事前認知。
- 方格子希望您能從這些分享內容汲取投資養份，養成獨立思考的能力、判斷、行動，成就最適合您的投資理財模式。
頻寬比較
- HBM: 極高頻寬，最高可達1TB/s
- 伺服器DRAM: 中等頻寬，最高約50GB/s
差異分析
- 頻寬差距：HBM的頻寬比傳統伺服器DRAM高出約20倍。這意味著HBM能在相同時間內傳輸更多數據。
- 應用場景：
- HBM: 主要用於高性能計算領域，如AI加速器、高端GPU和超級電腦3。伺服器DRAM: 廣泛應用於各類伺服器的主記憶體。
- 技術實現：
- HBM: 採用3D堆疊封裝技術，將多個DRAM晶片垂直堆疊13。伺服器DRAM: 通常採用傳統的平面晶片設計。
- 成本和普及度：
- HBM: 成本較高，主要用於高端設備。伺服器DRAM: 成本相對較低，使用更為普遍3。
- 功耗效率：HBM由於其設計，通常比傳統DRAM更加節能
這種巨大的頻寬差異使得HBM特別適合處理需要大量數據快速傳輸的任務，如AI訓練和高性能圖形處理。而伺服器DRAM則更適合作為通用的伺服器主記憶體，滿足大多數企業級應用的需求。
1會員
202內容數
留言0
查看全部
你可能也想看
Google News 追蹤
*合作聲明與警語：
本文係由國泰世華銀行邀稿。
證券服務係由國泰世華銀行辦理共同行銷證券經紀開戶業務，定期定額(股)服務由國泰綜合證券提供。
剛出社會的時候，很常在各種 Podcast 或 YouTube 甚至是在朋友間聊天，都會聽到各種市場動態、理財話題，像是：聯準會降息或是近期哪些科
HBM，全稱 High Bandwidth Memory（高頻寬記憶體），是一種專為高性能計算設計的先進記憶體技術。它以 3D 堆疊 為核心，能夠提供極高的數據傳輸頻寬，同時降低功耗和佔用空間，成為人工智慧（AI）、高效能計算（HPC）和高端 GPU 的首選記憶體。
HBM 的核心特點
NVIDIA 黃仁勳 - AI人工智慧時代如何帶動全球新產業革命（個人紀錄用）
🇺🇸Omniverse 就是未來集大成，而加速運算、人工智慧就是兩個最重要的技術核心
🇺🇸CPU效能的擴充速度正在大幅降低，提出「運算通膨」概念
華碩 K3605ZC-0232K12700H
16寸
Intel® Core™ i7-12700H Processor 2.3 GHz
8GB DDR4 on board +8GB DDR4 SO-DIMM
螢幕:16吋 FHD IPS
512GB M.2 NVMe™ PCIe® 4.0
HP電競筆電顯卡4060
ASUS曲面螢幕
滑鼠品牌POJUN波軍
麥克風HYPERX S
鍵盤平民牌子
我之後會回去嘗試直播遊戲實況，有圖奇TWITCH帳號的可以追蹤我的TWITCH我會不定期的做直播和訂閱我的YT感謝
筆記-24.03.25-科技財知道
*輝達想做的事情非常多，包括AI GPU的算力提供(GB200)、協助半導體製造(cuLitho)、車用晶片(Drive Thor)、機器人開發平台(GR00T)、元宇宙等物理模擬(Omniverse)。
*GB200 = 2個B100+1個Grace CPU
今天看了GTC 2024的精華版，回想1995年代開始，家裡的電腦算力越來越強，開始推動很多以前需要勞力或腦力的工作，效率大幅提昇。到2000年初，還記得手機從原本只有打電話的功能，開始整併聽音樂、翻譯機，甚至到相機，出門變成只要一台手機就能行走天下，這些都拜算力提升所賜。
GTC 2024，
本文將介紹桌上型電腦產業地圖，包括NB筆記型電腦產業地圖、伺服器產業地圖和產業結構圖等相關信息。
買電腦時常常聽到CUP幾核心、速度XXX、記憶體8G、16G又是什麼?
這些到底代表什麼呢? 數字越高越好嗎?
*合作聲明與警語：
本文係由國泰世華銀行邀稿。
證券服務係由國泰世華銀行辦理共同行銷證券經紀開戶業務，定期定額(股)服務由國泰綜合證券提供。
剛出社會的時候，很常在各種 Podcast 或 YouTube 甚至是在朋友間聊天，都會聽到各種市場動態、理財話題，像是：聯準會降息或是近期哪些科
HBM，全稱 High Bandwidth Memory（高頻寬記憶體），是一種專為高性能計算設計的先進記憶體技術。它以 3D 堆疊 為核心，能夠提供極高的數據傳輸頻寬，同時降低功耗和佔用空間，成為人工智慧（AI）、高效能計算（HPC）和高端 GPU 的首選記憶體。
HBM 的核心特點
NVIDIA 黃仁勳 - AI人工智慧時代如何帶動全球新產業革命（個人紀錄用）
🇺🇸Omniverse 就是未來集大成，而加速運算、人工智慧就是兩個最重要的技術核心
🇺🇸CPU效能的擴充速度正在大幅降低，提出「運算通膨」概念
華碩 K3605ZC-0232K12700H
16寸
Intel® Core™ i7-12700H Processor 2.3 GHz
8GB DDR4 on board +8GB DDR4 SO-DIMM
螢幕:16吋 FHD IPS
512GB M.2 NVMe™ PCIe® 4.0
HP電競筆電顯卡4060
ASUS曲面螢幕
滑鼠品牌POJUN波軍
麥克風HYPERX S
鍵盤平民牌子
我之後會回去嘗試直播遊戲實況，有圖奇TWITCH帳號的可以追蹤我的TWITCH我會不定期的做直播和訂閱我的YT感謝
筆記-24.03.25-科技財知道
*輝達想做的事情非常多，包括AI GPU的算力提供(GB200)、協助半導體製造(cuLitho)、車用晶片(Drive Thor)、機器人開發平台(GR00T)、元宇宙等物理模擬(Omniverse)。
*GB200 = 2個B100+1個Grace CPU
今天看了GTC 2024的精華版，回想1995年代開始，家裡的電腦算力越來越強，開始推動很多以前需要勞力或腦力的工作，效率大幅提昇。到2000年初，還記得手機從原本只有打電話的功能，開始整併聽音樂、翻譯機，甚至到相機，出門變成只要一台手機就能行走天下，這些都拜算力提升所賜。
GTC 2024，
本文將介紹桌上型電腦產業地圖，包括NB筆記型電腦產業地圖、伺服器產業地圖和產業結構圖等相關信息。
買電腦時常常聽到CUP幾核心、速度XXX、記憶體8G、16G又是什麼?
這些到底代表什麼呢? 數字越高越好嗎?