【記憶體世代轉折點】AI 訓練與推論最佳 DRAM 解密:HBM 為王,LPDDR 異軍突起

更新於 發佈於 閱讀時間約 5 分鐘
“你可以有最強的算力核心,但若記憶體頻寬跟不上,那些效能只會卡在瓶頸裡等死。” — Cadence 行銷總監 Frank Ferro

隨著 AI 模型規模指數級膨脹,記憶體已從配角晉升為演算法經濟的主角。2024 年底,ChatGPT、Gemini、Claude 這些 AI 巨獸每天吞吐的參數、向量與特徵圖(feature map),全都倚賴 DRAM 記憶體高速搬運、即時喚醒。

raw-image

撰文|編輯部|2025年6月


但問題來了:你該選哪種記憶體?

根據《SemiEngineering》報導,今天市面主流的四大同步式 DRAM(SDRAM)架構 — DDR、LPDDR、GDDR、HBM — 各自擁有截然不同的成本結構、延遲輪廓與功耗權衡。每一項選擇,都是一場深層的運算博弈。

一場被記憶體改寫的 AI 革命

記憶體不再只是硬體工程的參數調節器,它決定了 AI 能否實用、是否商用,甚至能否從雲端走進日常生活。

  • 在資料中心:HBM 如同白金地段建案,買得起就是你的演算法競爭優勢。
  • 在車載與邊緣運算:LPDDR 是唯一能撐起高速推論又不爆炸功耗的選項。
  • 在傳統 CPU 架構中:DDR 憑藉全球最廣泛供應鏈與最低單位成本,仍是 AI 平民化的支柱。
  • 而 GDDR,則尷尬地被夾在頻寬與價格曲線之間,經常淪為系統設計時的「非必要項」。

HBM:最奢華的記憶體武器,資料中心唯一指定

HBM(High Bandwidth Memory)是目前唯一可支援 AI 模型訓練高頻寬需求的記憶體。其以 TSV(Through Silicon Via)堆疊技術,實現每通道可達數 TB/s 的資料吞吐。

但同時,它也是最昂貴、最燙手、最高風險的記憶體。

「在資料中心裡,買得起 5,000 美元 GPU 的公司,不會在乎再多花 500 美元買 HBM。」— Quadric 行銷長 Steve Roddy

HBM4 正式標準發布:頻寬再翻倍

2026 年,HBM4 即將問世,頻寬比 HBM3E 增加兩倍,通道數翻倍,成為 AI 模型升級(如 GPT-5、Gemini Ultra)所需的資源燃料。


LPDDR:AI 邊緣化運算的能效王者

低功耗 DDR(LPDDR)從手機世界出身,如今卻撐起了 AI 推論的半邊天。

LPDDR6 已進入設計階段,預計 2025 年底問世,將解決 ECC 弱點、提升傳輸率與記憶體控制邏輯。這也讓 LPDDR 成為「窮人的 HBM」,尤其在成本敏感但效能不能妥協的場景中,如車載 L4 自駕系統、邊緣 inferencing ASIC 等。

「LPDDR 是記憶體界的瑞士刀,沒有不能用的場景。」— Synopsys Murdock

DDR:經濟實用,訓練不靠它,推論還是靠它

DDR 是最老牌、最穩定的通用記憶體技術,幾乎存在於所有 CPU 驅動的系統中。

新世代 DDR5 MRDIMM 正在崛起

透過雙插槽交錯存取(ping-pong),讓頻寬加倍。缺點是功耗與成本也同時上升,更像是向 HBM 靠攏的折衷方案。

「如果你只想讓設備跑得起來,又不需要極致效能,DDR 還是絕對可靠。」— Expedera 工程師 Tadishetti

適合應用場景:

  • 中小企業 AI 工作站
  • 工控 AI 模組
  • 智慧家庭與 IoT 邊緣裝置

GDDR:速度夠、成本中、但常常不被選

GDDR 專為 GPU 而生,具備比 DDR 更高頻寬,但延遲不如 LPDDR,功耗也不低。更麻煩的是,它無論在價格還是性能,都不上不下,缺乏一擊必中應用場景。

「GDDR 對 AI 來說,總是差一點。」— Quadric Roddy

但隨著生成式 AI 圖像、影音模型(如 Runway、Stable Diffusion)興起,GDDR 有望成為 AI 繪圖專用加速器的下一波記憶體核心。


你的記憶體選擇,是未來能否活下去的生存策略

當所有晶片公司都在談大模型、低功耗、高頻寬,記憶體成了真正左右命運的技術選項。不是所有人都能負擔 HBM,不是每個應用都能容忍 LPDDR 的封裝限制,GDDR 的尷尬與 DDR 的廉價,也讓每一次架構選擇都充滿了策略與妥協。

工程師得思考:

  • 你是跑 LLM 還是只做 AI 影像分類?
  • 你能接受散熱塔與 300W TDP 嗎?
  • 你是在雲端訓練還是邊緣推論?

這些問題的答案,將決定你用哪一類 DRAM,也決定你的 AI 系統能否脫離瓶頸、真正成為時代競爭力的一部分。

留言
avatar-img
留言分享你的想法!
avatar-img
Tx3|策略級洞察媒體
13會員
174內容數
Tx3 是一個專注於科技產業、投資心法與國際趨勢解析的自媒體品牌,結合產業第一線脈動、數據驅動的思考,以及全球視野下的策略觀點。 我們不是單純報導新聞,而是以犀利的眼光挑戰框架,用簡明但深刻的語言解構複雜議題,幫助讀者掌握「看懂趨勢、預判未來、做出投資好決策」的核心能力。
2025/06/20
當美元出現走貶風險,對外匯曝險較高的企業而言,財報就可能多出一道陰影。 晶圓代工龍頭台積電(2330),雖手握龐大美元資產,但在2025年第一季報中也隱含潛在的匯兌風險。若美元兌新台幣貶值10%,估計帳面恐產生新台幣208億元的未實現匯損,不免引發市場關注:這會對台積電的每股盈餘(EPS)產生什麼
Thumbnail
2025/06/20
當美元出現走貶風險,對外匯曝險較高的企業而言,財報就可能多出一道陰影。 晶圓代工龍頭台積電(2330),雖手握龐大美元資產,但在2025年第一季報中也隱含潛在的匯兌風險。若美元兌新台幣貶值10%,估計帳面恐產生新台幣208億元的未實現匯損,不免引發市場關注:這會對台積電的每股盈餘(EPS)產生什麼
Thumbnail
2025/06/17
在 AI 硬體競賽日益升溫之際,超微(AMD)出招不手軟。 6月12日於 Advancing AI 2025 大會上,一口氣推出全新 MI350 系列 GPU,旗艦款 MI355X 不僅具備高達 288GB 的 HBM3E 記憶體容量,更在 FP64/FP32 高精度運算效能上直指輝達。
Thumbnail
2025/06/17
在 AI 硬體競賽日益升溫之際,超微(AMD)出招不手軟。 6月12日於 Advancing AI 2025 大會上,一口氣推出全新 MI350 系列 GPU,旗艦款 MI355X 不僅具備高達 288GB 的 HBM3E 記憶體容量,更在 FP64/FP32 高精度運算效能上直指輝達。
Thumbnail
2025/06/09
隨著AI PC成為下一波戰場,晶片巨頭正爭相卡位新世代運算平台。聯發科(2454)在COMPUTEX 2025上,卻選擇一條出乎意料但極具策略意涵的道路,避開尚未成熟、競爭激烈的Windows on Arm(WoA)平台,轉而強打Kompanio Ultra 910處理器,全面搶攻高階Chromeb
Thumbnail
2025/06/09
隨著AI PC成為下一波戰場,晶片巨頭正爭相卡位新世代運算平台。聯發科(2454)在COMPUTEX 2025上,卻選擇一條出乎意料但極具策略意涵的道路,避開尚未成熟、競爭激烈的Windows on Arm(WoA)平台,轉而強打Kompanio Ultra 910處理器,全面搶攻高階Chromeb
Thumbnail
看更多
你可能也想看
Thumbnail
每年4月、5月都是最多稅要繳的月份,當然大部份的人都是有機會繳到「綜合所得稅」,只是相當相當多人還不知道,原來繳給政府的稅!可以透過一些有活動的銀行信用卡或電子支付來繳,從繳費中賺一點點小確幸!就是賺個1%~2%大家也是很開心的,因為你們把沒回饋變成有回饋,就是用卡的最高境界 所得稅線上申報
Thumbnail
每年4月、5月都是最多稅要繳的月份,當然大部份的人都是有機會繳到「綜合所得稅」,只是相當相當多人還不知道,原來繳給政府的稅!可以透過一些有活動的銀行信用卡或電子支付來繳,從繳費中賺一點點小確幸!就是賺個1%~2%大家也是很開心的,因為你們把沒回饋變成有回饋,就是用卡的最高境界 所得稅線上申報
Thumbnail
全球科技產業的焦點,AKA 全村的希望 NVIDIA,於五月底正式發布了他們在今年 2025 第一季的財報 (輝達內部財務年度為 2026 Q1,實際日曆期間為今年二到四月),交出了打敗了市場預期的成績單。然而,在銷售持續高速成長的同時,川普政府加大對於中國的晶片管制......
Thumbnail
全球科技產業的焦點,AKA 全村的希望 NVIDIA,於五月底正式發布了他們在今年 2025 第一季的財報 (輝達內部財務年度為 2026 Q1,實際日曆期間為今年二到四月),交出了打敗了市場預期的成績單。然而,在銷售持續高速成長的同時,川普政府加大對於中國的晶片管制......
Thumbnail
重點摘要: 6 月繼續維持基準利率不變,強調維持高利率主因為關稅 點陣圖表現略為鷹派,收斂 2026、2027 年降息預期 SEP 連續 2 季下修 GDP、上修通膨預測值 --- 1.繼續維持利率不變,強調需要維持高利率是因為關稅: 聯準會 (Fed) 召開 6 月利率會議
Thumbnail
重點摘要: 6 月繼續維持基準利率不變,強調維持高利率主因為關稅 點陣圖表現略為鷹派,收斂 2026、2027 年降息預期 SEP 連續 2 季下修 GDP、上修通膨預測值 --- 1.繼續維持利率不變,強調需要維持高利率是因為關稅: 聯準會 (Fed) 召開 6 月利率會議
Thumbnail
最近,隨著HBM的戰爭日益激烈,記憶體大廠不論韓國三星,海力士,還是美國的美光,紛紛擴廠迎接未來的需求。但是,即便擴產,對於整體的需求來說,仍然有一段空窗期,更重要的是,如果三大廠都投入HBM的應用,對於傳統的DRAM帶來產能上的缺乏,有機會讓未來的DDR5以上,甚至是DDR3/4都進入供不應求!
Thumbnail
最近,隨著HBM的戰爭日益激烈,記憶體大廠不論韓國三星,海力士,還是美國的美光,紛紛擴廠迎接未來的需求。但是,即便擴產,對於整體的需求來說,仍然有一段空窗期,更重要的是,如果三大廠都投入HBM的應用,對於傳統的DRAM帶來產能上的缺乏,有機會讓未來的DDR5以上,甚至是DDR3/4都進入供不應求!
Thumbnail
在半導體科技頂端的台積電和ASML都發布了財報,面臨回檔壓力的AI半導體還有戲嗎?
Thumbnail
在半導體科技頂端的台積電和ASML都發布了財報,面臨回檔壓力的AI半導體還有戲嗎?
Thumbnail
關市場關注AI晶片競爭白熱化發展,關注目前記憶體的長線賽道可能將超越處理晶片,上週五市場延續輪動後的逢低買盤、測試支撐與突破,維持中性偏強,目前維持股優於債,避險方面短期仍以美元、黃金、比特幣,並關注美債表現。本週記憶體大廠美光公布財報。
Thumbnail
關市場關注AI晶片競爭白熱化發展,關注目前記憶體的長線賽道可能將超越處理晶片,上週五市場延續輪動後的逢低買盤、測試支撐與突破,維持中性偏強,目前維持股優於債,避險方面短期仍以美元、黃金、比特幣,並關注美債表現。本週記憶體大廠美光公布財報。
Thumbnail
在科技發展的浪潮中,生成式AI無疑是引領未來的關鍵力量。透過深度學習技術,AI系統能夠從大量資料中發掘規律,並創造出全新的內容,無論是文字、圖像、音頻還是視頻,都可以在AI的加持下重新定義。
Thumbnail
在科技發展的浪潮中,生成式AI無疑是引領未來的關鍵力量。透過深度學習技術,AI系統能夠從大量資料中發掘規律,並創造出全新的內容,無論是文字、圖像、音頻還是視頻,都可以在AI的加持下重新定義。
Thumbnail
NVIDIA 黃仁勳 - AI人工智慧時代如何帶動全球新產業革命(個人紀錄用) 🇺🇸Omniverse 就是未來集大成,而加速運算、人工智慧就是兩個最重要的技術核心 🇺🇸CPU效能的擴充速度正在大幅降低,提出「運算通膨」概念
Thumbnail
NVIDIA 黃仁勳 - AI人工智慧時代如何帶動全球新產業革命(個人紀錄用) 🇺🇸Omniverse 就是未來集大成,而加速運算、人工智慧就是兩個最重要的技術核心 🇺🇸CPU效能的擴充速度正在大幅降低,提出「運算通膨」概念
Thumbnail
AI PC 硬體 + AI OS + AI PC 摘要
Thumbnail
AI PC 硬體 + AI OS + AI PC 摘要
Thumbnail
本文章探討了多智能體系統(MAS)在生成式AI領域中的應用,以及GenAI對於AI_MCU和Software defined hardware的影響。文章還總結了SDH設計模式對數據科學和人工智能時代的影響,並提供了有關GenAI的一些額外信息。
Thumbnail
本文章探討了多智能體系統(MAS)在生成式AI領域中的應用,以及GenAI對於AI_MCU和Software defined hardware的影響。文章還總結了SDH設計模式對數據科學和人工智能時代的影響,並提供了有關GenAI的一些額外信息。
Thumbnail
2022年11月30日,ChatGPT的登場對全球造成了顯著衝擊。隨後,2024年2月15日,OpenAI發布了能夠將文字轉換為圖像的AI模型SORA,這一創新再次引發了巨大的震動。 這兩大創新引發的全球算力需求的增長幅度是前所未有的。 需求的瞬間迅猛增長,但供應的增加卻需要更長的時間。Nv
Thumbnail
2022年11月30日,ChatGPT的登場對全球造成了顯著衝擊。隨後,2024年2月15日,OpenAI發布了能夠將文字轉換為圖像的AI模型SORA,這一創新再次引發了巨大的震動。 這兩大創新引發的全球算力需求的增長幅度是前所未有的。 需求的瞬間迅猛增長,但供應的增加卻需要更長的時間。Nv
Thumbnail
在本波開始起漲前就提過主流會是 AI + IC 族群,而2023年至今也印證了 "錢永遠比人聰明" 、 "錢只會駐足在有意義與有前景的產業與族群上",事實也證明大盤由11月初15975.91起漲至今日最高點19300.49漲幅達3357點 (+21.02%)
Thumbnail
在本波開始起漲前就提過主流會是 AI + IC 族群,而2023年至今也印證了 "錢永遠比人聰明" 、 "錢只會駐足在有意義與有前景的產業與族群上",事實也證明大盤由11月初15975.91起漲至今日最高點19300.49漲幅達3357點 (+21.02%)
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News