📝 氣冷,液冷 傻傻分不清? 帶你了解AI下一代散熱技術

更新於 發佈於 閱讀時間約 5 分鐘
  • 文內如有投資理財相關經驗、知識、資訊等內容,皆為創作者個人分享行為。
  • 有價證券、指數與衍生性商品之數據資料,僅供輔助說明之用,不代表創作者投資決策之推介及建議。
  • 閱讀同時,請審慎思考自身條件及自我決策,並應有為決策負責之事前認知。
  • 方格子希望您能從這些分享內容汲取投資養份,養成獨立思考的能力、判斷、行動,成就最適合您的投資理財模式。

💎 AI 伺服器將大幅推升伺服器市場規模,伺服器均價可望自 2022 年的 8,500-9,000 美元,2023 年躍升至 10,000 美元以上,主因 AI 伺服器 平均單價ASP 為一般伺服器之 10 倍以上。

Bloomberg 預估 2022-32 年市場規模年複 合成長 42%至 1.3 兆美元,相關硬體 (如伺服器、儲存裝置)產值預估將占所 增加產值之 30-35%。

散熱技術為 AI伺服器設計之關鍵, AI 伺服器的散熱與 PCB 單價將較一般伺服器成長 9-10 倍,電源供應器則將成長約 7 倍;冷卻風扇、導軌與機箱將成長 3-4 倍;記憶體與交換器成長約 2 倍。

🍖 簡單來說, 散熱系統是透過熱傳導和熱對流, 將電子設備運作時所產生的廢熱發散出去, 來維持在合適的溫度下運作。 若廢熱無法有效發散, 會影響半導體元件壽命和功能。

🍖散熱模組結構為

➡️ 均熱片

+散熱模組(熱導管+熱板+鰭片+導熱膏)

+風扇

🍖 高溫會導致元件膨脹, 反覆熱脹冷縮易使元件電路損壞, 降低元件壽命, 更會直接影響半導體元件的電阻值,降低電流速度,進而影響其能源使用效率 (PUE)。

💎 目前散熱可分為傳統氣冷散熱和液冷散熱兩種。

🍖 氣冷散熱

主要由:

熱介面材料TIM(Thermal Interface Material),均熱片(VC)或熱導管, 將熱先導出,再由散熱鰭片(Heat Sink)和風扇與空氣對流進行散熱

➡️ NVIDIA 和AMD GPU 之相對應廢熱散發效率: 熱設計功耗 (TDP, 單位為W ) 均已瀕臨或超過氣冷散熱極限。

目前,主流伺服器高階 CPU 熱設計功耗 (TDP)已達 350~400 W; GPGPU 和 Switch IC 更已突破 600W、800W, Intel、AMD 下一代 CPU 之 TDP 也將突破 500W。

🍖液冷式散熱

透過液冷板(Cold Plate), 或是浸沒式散熱方式, 透過與液體熱對流散出熱, 讓晶片降溫。

➡️ 液冷散熱成本雖較高, 但可在較小體積且較為省電下達成較高的解熱效率。

另外, 於使用液冷散熱系統的資料中心在電力使用效能(PUE)表現上顯著優於傳統使用空調系統建構的資料中心, 企業和 CSP 業者為考量 ESG 發展, 已開始少量導入。

➡️ 液冷式散熱相對氣冷式散熱產品平均單價(ASP) 價差50%~數十倍,因此在 GPU 熱設計功耗 (TDP) 持續上升之趨勢下,下一代散熱模組廠將顯著受惠。

➡️ 下一代之散熱模組設計, 可分為:

3DVC 與 液冷式散熱

其中, 液冷式散熱 又分為 浸沒式 與開放式 , 兩種系統。

  1. 3DVC: 散熱板與真空熱導管整合,其成本較低但體積較大
  2. 液冷式: 利用水或特殊液體, 協助降溫, 為未來發展主流。成本較高, 但**可在較小體積下達成較好解熱效率,**也較為省電。

(1) 浸沒式 Immersion Liquid Cooling:

又可分為 (a) 單相式 與 (b)雙相式

浸沒式散熱將伺服器完全浸沒於介電冷卻液當中,直接透過液體對流的方式將廢熱自晶片轉移至液體中。

(a) 單相式

經由熱交換器將液體冷卻

(b) 雙相式

液體蒸發成氣體上升到密封槽頂部,接觸到冷凝管後重新落回池中。

(2) 開放式 Open Loop Liquid Cooling

開放式液冷較傳統氣冷多加入了

液冷板模組(Cold Plate),

冷卻液分配器(CDU),

冷卻水歧管(CDM),

並透過冷卻器和風扇背門或是熱交換器(RDHx)讓冷卻液降溫

資料參考:

📝 凱基證券-3324 雙鴻 (20230807 向子慧, 余昀澄)

📝 凱基證券-3017 奇鋐 (20230809 向子慧, 余昀澄)

📝 凱基證券-電子硬體產業 (20230802 向子慧, 余昀澄)

📝 富果研究-2023H2投資洞察報告書

📝 富果研究-氣冷、液冷是什麼?讓伺服器效能穩定的「散熱技術」有哪些發展趨勢?

(2023 0505 Alex Huang )

📝 統一投顧-AI商機崛起,伺服器供應鏈看俏 (20230717 侯喬比)

📝 元富投顧-AI驅動散熱跨時代革命 (20230605 蕭淑君)

📝 元富投顧-綠色算力推手 夜冷式散熱 (20230707 蕭淑君)

📝 YouTube- 投資伊森

🎀 免責聲明:投資涉及風險,請在做出任何投資決策前,謹慎評估個人風險承受能力。以上僅為知識分享,不構成投資建議。

🎀 以上皆為小編獨自製作完成,若有不足之處敬請指教。

🎀 本帳號不推薦任何股票,純屬個人學習分享。

🎀 IG: 多多學投資 @doodostock

raw-image


完整文章連結 :

https://www.instagram.com/p/Cv98MHSyol3/?utm_source=ig_web_copy_link&igshid=MzRlODBiNWFlZA==


avatar-img
258會員
29內容數
☆ 曾獲遠見雜誌分享 ☆ ☆ 統整台股各產業資料,整理成筆記與自製圖表; 有系統性暸解產業知識,探討產業概念股。 ☆ 不推薦股票,純屬學習分享
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
你可能也想看
Google News 追蹤
Thumbnail
隨著理財資訊的普及,越來越多台灣人不再將資產侷限於台股,而是將視野拓展到國際市場。特別是美國市場,其豐富的理財選擇,讓不少人開始思考將資金配置於海外市場的可能性。 然而,要參與美國市場並不只是盲目跟隨標的這麼簡單,而是需要策略和方式,尤其對新手而言,除了選股以外還會遇到語言、開戶流程、Ap
Thumbnail
嘿,大家新年快樂~ 新年大家都在做什麼呢? 跨年夜的我趕工製作某個外包設計案,在工作告一段落時趕上倒數。 然後和兩個小孩過了一個忙亂的元旦。在深夜時刻,看到朋友傳來的解籤網站,興致勃勃熬夜體驗了一下,覺得非常好玩,或許有人玩過了,但還是想寫上來分享紀錄一下~
Thumbnail
摘要 本報告分析 AI 數據中心的電力消耗趨勢及冷卻技術發展,討論 NVIDIA GB200 超級芯片發布前的數據中心電力升級需求和液冷裝置的重要性。核心觀察包括:伺服器半導體升級驅動電力需求快速增長、每機架 GPU 密度增加導致高功率需求以及液冷技術應用普及的趨勢。 關鍵點 AI 數據中心的
Thumbnail
隨著空氣冷卻方案接近其極限,液體冷卻在AI伺服器中的重要性日益凸顯,預計到2025年,液體冷卻的滲透率將從8%增至43%-47%。我們認為,隨著nVidia的產品線調整及需求上升,全球伺服器市場的預測也將上調,2024年和2025年的伺服器收入增長預測提高至89%和38%。此外,液體冷卻市場規模在2
Thumbnail
AI 供應鏈最新情報:液冷散熱需求持續升溫,台廠受惠 摘要結論 本文彙整 Morgan Stanley 對 AI 供應鏈的最新觀察,指出液冷散熱需求強勁,NVIDIA GPU 平台訂單展望穩健,GB200 伺服器液冷方案價值顯著提升。台廠如台達電、健和興等可望受惠於此趨勢。 重點資訊 NVI
Thumbnail
設備在高度頻繁不間斷地使用下,會產生高溫而導致硬體設備壽命耗損加速,及異常現象增加,如彈道膛線…。為了滿足未來科技應用,散熱技術扮演了重要關鍵之一。 人工智能高效運算(AI HPC) “當退潮了,就知道誰沒穿泳褲…”
Thumbnail
隨著AI技術的迅速發展,伺服器市場也隨之變革。OpenAI的ChatGPT引領語言模型潮流,其計算力來自高效能AI伺服器,配備GPU或AI加速器,支持TensorFlow等框架。穩定且高效的電源供應器(PSU)如FSP與3Y Power的電源供應器,提供穩定性及多重保護,滿足AI伺服器的需求。本
問題:有關R系列功耗看到資訊是比GB200少25%功耗,R系列功耗比較低的話,還有需要用浸沒式嗎?會不會沿用水冷散熱呢?
Thumbnail
隨著 AI 需求上升,用氣冷方式可能有點挑戰,需要 15 兆瓦電力、成本也高、對環境也造成負擔,而美超微的 DLC 直接液冷可用室溫水提供最佳冷卻,對環境影響也較小,只要 10 兆瓦就能為整個資料中心供電,對發電有限的資料中心來說是新世界,因此美超微目標是讓 DLC 直接液冷成為主流解決方案。
Thumbnail
1. 為什麼你需要認識VERTIV VERTIV(維諦技術,美股代號VRT)維諦主要為數據中心提供交流電及直流電元管理方案,近年因應高速運算散熱需求,和NVIDIA合作開發液冷機組解決方案,有機會成為下一代AI伺服器平台散熱方案供應商。Vertiv目前市值約323億美元。
Thumbnail
若以本波 AI 族群的上漲過程中最受矚目者莫過於散熱族群。整個散熱族群不論業績成長性與漲幅皆領先其它族群,也因此本篇將試圖透過基本財務分析、產業前景、及籌碼流向分析進行判斷。 波段漲幅 3017 奇鋐的波段起漲點01/09/2024, 以當日最低點307.5計算至03/13
Thumbnail
隨著理財資訊的普及,越來越多台灣人不再將資產侷限於台股,而是將視野拓展到國際市場。特別是美國市場,其豐富的理財選擇,讓不少人開始思考將資金配置於海外市場的可能性。 然而,要參與美國市場並不只是盲目跟隨標的這麼簡單,而是需要策略和方式,尤其對新手而言,除了選股以外還會遇到語言、開戶流程、Ap
Thumbnail
嘿,大家新年快樂~ 新年大家都在做什麼呢? 跨年夜的我趕工製作某個外包設計案,在工作告一段落時趕上倒數。 然後和兩個小孩過了一個忙亂的元旦。在深夜時刻,看到朋友傳來的解籤網站,興致勃勃熬夜體驗了一下,覺得非常好玩,或許有人玩過了,但還是想寫上來分享紀錄一下~
Thumbnail
摘要 本報告分析 AI 數據中心的電力消耗趨勢及冷卻技術發展,討論 NVIDIA GB200 超級芯片發布前的數據中心電力升級需求和液冷裝置的重要性。核心觀察包括:伺服器半導體升級驅動電力需求快速增長、每機架 GPU 密度增加導致高功率需求以及液冷技術應用普及的趨勢。 關鍵點 AI 數據中心的
Thumbnail
隨著空氣冷卻方案接近其極限,液體冷卻在AI伺服器中的重要性日益凸顯,預計到2025年,液體冷卻的滲透率將從8%增至43%-47%。我們認為,隨著nVidia的產品線調整及需求上升,全球伺服器市場的預測也將上調,2024年和2025年的伺服器收入增長預測提高至89%和38%。此外,液體冷卻市場規模在2
Thumbnail
AI 供應鏈最新情報:液冷散熱需求持續升溫,台廠受惠 摘要結論 本文彙整 Morgan Stanley 對 AI 供應鏈的最新觀察,指出液冷散熱需求強勁,NVIDIA GPU 平台訂單展望穩健,GB200 伺服器液冷方案價值顯著提升。台廠如台達電、健和興等可望受惠於此趨勢。 重點資訊 NVI
Thumbnail
設備在高度頻繁不間斷地使用下,會產生高溫而導致硬體設備壽命耗損加速,及異常現象增加,如彈道膛線…。為了滿足未來科技應用,散熱技術扮演了重要關鍵之一。 人工智能高效運算(AI HPC) “當退潮了,就知道誰沒穿泳褲…”
Thumbnail
隨著AI技術的迅速發展,伺服器市場也隨之變革。OpenAI的ChatGPT引領語言模型潮流,其計算力來自高效能AI伺服器,配備GPU或AI加速器,支持TensorFlow等框架。穩定且高效的電源供應器(PSU)如FSP與3Y Power的電源供應器,提供穩定性及多重保護,滿足AI伺服器的需求。本
問題:有關R系列功耗看到資訊是比GB200少25%功耗,R系列功耗比較低的話,還有需要用浸沒式嗎?會不會沿用水冷散熱呢?
Thumbnail
隨著 AI 需求上升,用氣冷方式可能有點挑戰,需要 15 兆瓦電力、成本也高、對環境也造成負擔,而美超微的 DLC 直接液冷可用室溫水提供最佳冷卻,對環境影響也較小,只要 10 兆瓦就能為整個資料中心供電,對發電有限的資料中心來說是新世界,因此美超微目標是讓 DLC 直接液冷成為主流解決方案。
Thumbnail
1. 為什麼你需要認識VERTIV VERTIV(維諦技術,美股代號VRT)維諦主要為數據中心提供交流電及直流電元管理方案,近年因應高速運算散熱需求,和NVIDIA合作開發液冷機組解決方案,有機會成為下一代AI伺服器平台散熱方案供應商。Vertiv目前市值約323億美元。
Thumbnail
若以本波 AI 族群的上漲過程中最受矚目者莫過於散熱族群。整個散熱族群不論業績成長性與漲幅皆領先其它族群,也因此本篇將試圖透過基本財務分析、產業前景、及籌碼流向分析進行判斷。 波段漲幅 3017 奇鋐的波段起漲點01/09/2024, 以當日最低點307.5計算至03/13