高頻寬記憶體(HBM)跟伺服器DRAM有甚麼差別

更新於 2024/12/20閱讀時間約 2 分鐘
  • 文內如有投資理財相關經驗、知識、資訊等內容,皆為創作者個人分享行為。
  • 有價證券、指數與衍生性商品之數據資料,僅供輔助說明之用,不代表創作者投資決策之推介及建議。
  • 閱讀同時,請審慎思考自身條件及自我決策,並應有為決策負責之事前認知。
  • 方格子希望您能從這些分享內容汲取投資養份,養成獨立思考的能力、判斷、行動,成就最適合您的投資理財模式。

高頻寬記憶體(HBM)和伺服器DRAM雖然都屬於動態隨機存取記憶體的範疇,但在設計、性能和應用上有顯著差異:

技術設計

  • HBM:採用3D堆疊封裝技術,將多個DRAM晶片垂直堆疊,並使用矽穿孔(TSV)互連
  • 伺服器DRAM:通常採用傳統的平面晶片設計8

性能特點

  • HBM:
    • 極高頻寬,最高可達1TB/s8較低的存取延遲高度並行處理能力
  • 伺服器DRAM:
    • 中等頻寬,最高約50GB/s8一般的存取延遲較低的並行處理能力

應用場景

  • HBM:主要用於高性能計算領域,如AI加速器、高端GPU和超級電腦
  • 伺服器DRAM:廣泛應用於各類伺服器的主記憶體

成本和普及度

  • HBM:成本較高,主要用於高端設備
  • 伺服器DRAM:成本相對較低,使用更為普遍

錯誤校正

  • HBM:通常內建錯誤校正功能
  • 伺服器DRAM:常使用ECC (Error Correcting Code) 技術來提高可靠性

總的來說,HBM和伺服器DRAM在不同領域發揮作用,並不存在直接替代關係,而是相輔相成滿足不同應用需求


。HBM主要針對需要極高頻寬的特定應用優化,而伺服器DRAM則更適合作為通用的伺服器主記憶體。

avatar-img
1會員
201內容數
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
DA的美股日記 的其他內容
DRAM產品 高頻寬記憶體(HBM): 專為AI和高性能計算設計的DRAM技術HBM3E 12層36GB產品,功耗比競爭對手的8層24GB解決方案低20% 伺服器DRAM: 高容量DRAM產品,如基於單片晶粒的128GB DIMMsDDR5模組,滿足數據中心處理器對高頻寬的需求LP5伺服器D
在2024年12月的美國聯準會(Fed)利率決議後,美國公債市場遭到拋售的原因可以歸結為以下幾個重點: 1. 鷹派降息引發市場重新評估 雖然聯準會如預期降息25個基點至4.25%-4.50%,但會後聲明和主席鮑威爾的表態顯示,未來降息步伐將放緩,並可能維持高利率更長時間。這一「鷹派降息」立場令市
根據2024年12月18日的美國聯邦公開市場委員會(FOMC)會議結果,以下是主要重點整理: 利率決議 聯準會將基準利率下調25個基點(1碼),目標區間降至4.25%-4.5% 這是聯準會自9月以來的第三次降息 經濟預測 上調2024年GDP成長率預估至2.5%,較9月預測值增加0.5個百
根據2024年12月12日的歐洲央行(ECB)會議決議,以下是主要重點整理: 利率決議 降息幅度:歐洲央行將基準利率下調25個基點,從3.40%降至3.15%。這是2024年內的第四次降息。 經濟與通膨預測 經濟成長預期:歐洲央行下調了對2024年和2025年的經濟成長預期,顯示出對經濟增長
會議結果 利率政策:日本央行維持短期政策利率在0.25%不變,符合市場預期。 投票結果:8票贊成,1票反對。鷹派委員田村直樹主張將利率提高至0.5%,但提案被否決。 會議重點 經濟背景與政策考量: 日本經濟正在溫和復甦,但仍存在弱點,例如消費增長緩慢及全球經濟不確定性增加。日本央行強調需要
最大標記(Token) 是指大型語言模型(LLM)在處理文本時所能理解和生成的最小單位。以下是對最大標記的詳細解釋: 什麼是Token? 定義:Token 是模型處理文本的基本單位,可以是單個單詞、單詞的一部分(例如子詞)、字符或標點符號。 作用:Token 是將自然語言轉換為模型可理解的數字
DRAM產品 高頻寬記憶體(HBM): 專為AI和高性能計算設計的DRAM技術HBM3E 12層36GB產品,功耗比競爭對手的8層24GB解決方案低20% 伺服器DRAM: 高容量DRAM產品,如基於單片晶粒的128GB DIMMsDDR5模組,滿足數據中心處理器對高頻寬的需求LP5伺服器D
在2024年12月的美國聯準會(Fed)利率決議後,美國公債市場遭到拋售的原因可以歸結為以下幾個重點: 1. 鷹派降息引發市場重新評估 雖然聯準會如預期降息25個基點至4.25%-4.50%,但會後聲明和主席鮑威爾的表態顯示,未來降息步伐將放緩,並可能維持高利率更長時間。這一「鷹派降息」立場令市
根據2024年12月18日的美國聯邦公開市場委員會(FOMC)會議結果,以下是主要重點整理: 利率決議 聯準會將基準利率下調25個基點(1碼),目標區間降至4.25%-4.5% 這是聯準會自9月以來的第三次降息 經濟預測 上調2024年GDP成長率預估至2.5%,較9月預測值增加0.5個百
根據2024年12月12日的歐洲央行(ECB)會議決議,以下是主要重點整理: 利率決議 降息幅度:歐洲央行將基準利率下調25個基點,從3.40%降至3.15%。這是2024年內的第四次降息。 經濟與通膨預測 經濟成長預期:歐洲央行下調了對2024年和2025年的經濟成長預期,顯示出對經濟增長
會議結果 利率政策:日本央行維持短期政策利率在0.25%不變,符合市場預期。 投票結果:8票贊成,1票反對。鷹派委員田村直樹主張將利率提高至0.5%,但提案被否決。 會議重點 經濟背景與政策考量: 日本經濟正在溫和復甦,但仍存在弱點,例如消費增長緩慢及全球經濟不確定性增加。日本央行強調需要
最大標記(Token) 是指大型語言模型(LLM)在處理文本時所能理解和生成的最小單位。以下是對最大標記的詳細解釋: 什麼是Token? 定義:Token 是模型處理文本的基本單位,可以是單個單詞、單詞的一部分(例如子詞)、字符或標點符號。 作用:Token 是將自然語言轉換為模型可理解的數字
你可能也想看
Google News 追蹤
Thumbnail
*合作聲明與警語: 本文係由國泰世華銀行邀稿。 證券服務係由國泰世華銀行辦理共同行銷證券經紀開戶業務,定期定額(股)服務由國泰綜合證券提供。   剛出社會的時候,很常在各種 Podcast 或 YouTube 甚至是在朋友間聊天,都會聽到各種市場動態、理財話題,像是:聯準會降息或是近期哪些科
Thumbnail
現代很多資訊科技產品內,有安裝英文簡稱IC的積體電路晶片,但IC產業牽涉技術、對社會的影響複雜,對一般民眾來說較不易理解。 身為社會人文專業背景出身的我,最近試單投資IC產業,對此嘗試用毫芒雕刻比喻說明IC產業上下游的關係,希望讓更多人理解,也搏君一笑:
Thumbnail
在設計人機介面時,「模內裝飾」技術的應用對於提升人機介面(HMI)的設計和功能性有著重大的影響。透過模內裝飾技術,我們可以打造出更複雜、使用者友善的介面,不論是在汽車HMI、薄膜鍵盤還是其他領域,都能看到這項技術所帶來的優勢。
Thumbnail
華碩 K3605ZC-0232K12700H 16寸 Intel® Core™ i7-12700H Processor 2.3 GHz 8GB DDR4 on board +8GB DDR4 SO-DIMM 螢幕:16吋 FHD IPS 512GB M.2 NVMe™ PCIe® 4.0
Thumbnail
瞭解IC和IP的區別、晶圓代工的角色,以及芯粒和小晶片對半導體製造的影響。此外,探討了人工智慧對電子設計的影響。
Thumbnail
本文章探討了多智能體系統(MAS)在生成式AI領域中的應用,以及GenAI對於AI_MCU和Software defined hardware的影響。文章還總結了SDH設計模式對數據科學和人工智能時代的影響,並提供了有關GenAI的一些額外信息。
Thumbnail
筆記-2024.03.16-曲博 財訊訪談-談ARM *處理器的兩種架構: 精簡指令集RISC 複雜指令集CISC, *CPU為複雜指令集,運算能力較強,缺點是較耗電。 *ARM,為精簡指令集,運算效能較差,但較省電,屬於微處理器(MPU)。 *英特爾稱霸電腦用CPU, 然而手機較看重
Thumbnail
本文將介紹桌上型電腦產業地圖,包括NB筆記型電腦產業地圖、伺服器產業地圖和產業結構圖等相關信息。
再使用AT-START開發板時,這塊板子上搭配的外部晶體震盪器是8MHz。 若使用不同晶振,也就是震盪頻率不再是8MHz的話,需要修改哪些部分呢? 1.系統時鐘設定 void ​system_clock_config(void) 需要注意sclk(系統時鐘)有沒有超過限制、ahb及apb
Thumbnail
買電腦時常常聽到CUP幾核心、速度XXX、記憶體8G、16G又是什麼? 這些到底代表什麼呢? 數字越高越好嗎?
Thumbnail
*合作聲明與警語: 本文係由國泰世華銀行邀稿。 證券服務係由國泰世華銀行辦理共同行銷證券經紀開戶業務,定期定額(股)服務由國泰綜合證券提供。   剛出社會的時候,很常在各種 Podcast 或 YouTube 甚至是在朋友間聊天,都會聽到各種市場動態、理財話題,像是:聯準會降息或是近期哪些科
Thumbnail
現代很多資訊科技產品內,有安裝英文簡稱IC的積體電路晶片,但IC產業牽涉技術、對社會的影響複雜,對一般民眾來說較不易理解。 身為社會人文專業背景出身的我,最近試單投資IC產業,對此嘗試用毫芒雕刻比喻說明IC產業上下游的關係,希望讓更多人理解,也搏君一笑:
Thumbnail
在設計人機介面時,「模內裝飾」技術的應用對於提升人機介面(HMI)的設計和功能性有著重大的影響。透過模內裝飾技術,我們可以打造出更複雜、使用者友善的介面,不論是在汽車HMI、薄膜鍵盤還是其他領域,都能看到這項技術所帶來的優勢。
Thumbnail
華碩 K3605ZC-0232K12700H 16寸 Intel® Core™ i7-12700H Processor 2.3 GHz 8GB DDR4 on board +8GB DDR4 SO-DIMM 螢幕:16吋 FHD IPS 512GB M.2 NVMe™ PCIe® 4.0
Thumbnail
瞭解IC和IP的區別、晶圓代工的角色,以及芯粒和小晶片對半導體製造的影響。此外,探討了人工智慧對電子設計的影響。
Thumbnail
本文章探討了多智能體系統(MAS)在生成式AI領域中的應用,以及GenAI對於AI_MCU和Software defined hardware的影響。文章還總結了SDH設計模式對數據科學和人工智能時代的影響,並提供了有關GenAI的一些額外信息。
Thumbnail
筆記-2024.03.16-曲博 財訊訪談-談ARM *處理器的兩種架構: 精簡指令集RISC 複雜指令集CISC, *CPU為複雜指令集,運算能力較強,缺點是較耗電。 *ARM,為精簡指令集,運算效能較差,但較省電,屬於微處理器(MPU)。 *英特爾稱霸電腦用CPU, 然而手機較看重
Thumbnail
本文將介紹桌上型電腦產業地圖,包括NB筆記型電腦產業地圖、伺服器產業地圖和產業結構圖等相關信息。
再使用AT-START開發板時,這塊板子上搭配的外部晶體震盪器是8MHz。 若使用不同晶振,也就是震盪頻率不再是8MHz的話,需要修改哪些部分呢? 1.系統時鐘設定 void ​system_clock_config(void) 需要注意sclk(系統時鐘)有沒有超過限制、ahb及apb
Thumbnail
買電腦時常常聽到CUP幾核心、速度XXX、記憶體8G、16G又是什麼? 這些到底代表什麼呢? 數字越高越好嗎?