股癌【EP435】投資筆記 (伺服器行業趨勢分享)

股市「癲瘋」，永遠的「巔峰」
這裡我會分享我在股癌 Podcast 中學到的投資見解與想法，讓我們一同踏上投資不歸路，前往投資巔峰！

主委生活日常

• 1. 挪威印象：非常高，喜歡大山大海的自然風光和平靜的氛圍，推薦挪威的Norway in a Nutshell行程。
  2. 瑞典斯德哥爾摩印象：稍微低於挪威，城市感覺較熱鬧，觀光客可以在街頭遇到王室成員，但可能會有一些亂點，因為人種較複雜。
  3. 旅行中的警惕性：在斯德哥爾摩機場感受到可能被騙的氛圍，對於計程車或小車行的警戒，建議選擇Uber或大型車行。
  4. 在Vos的負面經驗：停留的小鎮缺乏飯店和餐廳，住宿環境不盡如人意，引發擔憂和不安。
  5. 旅行建議：推薦挪威的Fjord渡輪行程，該渡輪提供美麗的風景，值得一遊。建議不必刷遍每個北歐國家，而是挑選喜歡的地方深入體驗。

市場話題

市場正逐漸朝著熱度攀升的方向前進。我們可以觀察到一些明顯的指標，例如開戶時間的延長和高股息ETF的大量申購。此外，還有多個高股息ETF接連推出，這顯示了投資者對高股息產品的需求。

在購買高股息產品時，有幾個基本的認識是必要的。首先，高股息通常與高成長相背離，但並不意味著高股息的產品就不會有成長潛力，反之亦然。最終，評估一個投資的基準是含息報酬，這包括配息和資本利得。

我們無法確定市場熱度能持續多久，但通常在市場過熱時，投資者可能會面臨風險。與過去的風潮相比，像買南非幣或其他奇怪投資商品相比，買持有台灣上市公司的風險可能相對較低。

最近，一些朋友提到台灣的半導體巨頭台積電吸引了大量油國資金。這可能與Sam Altman的遊說有關，他展望了巨大的產能需求，這激勵了油國金主的投資意願。

當投資者開始詢問何時能夠全職投資時，這可能是市場準備出現變故的先兆。因此，我們應該警惕市場的熱度，並謹慎作出投資決策。

輝達產品線整理

輝達（NVIDIA）最近在其產品線上進行了大規模的切分，這讓人們有些困惑他們到底在打什麼算盤。一些觀察者認為，公司創辦人黃仁勳（Jensen Huang）可能有自己的目的，即通過將產品切割成多個部分，強迫市場更加直接地尋找最佳選擇。

過去，我們經常聽到關於V100、A100、H100等產品的討論，以及即將推出的B100，但現在這些產品已經被歸為傳統伺服器。這表明，這些產品不再是輝達主要推廣的內容。

傳統伺服器的特點在於，它們通常由多個卡組成一個板子，如Vulcan Board，上面裝有多個GPU，並與Intel的CPU（如SPR Sapphire Rapids和EMR Emerald Rapids）配合使用。

而輝達即將推出的新一代伺服器，雖然仍然包含GPU，但最大的區別在於它們不再使用Intel的產品，而是直接使用公司自家的Grace CPU。這些新的伺服器板子形狀也有所不同，不再是以前的八卡Baseball，而是一個板子上放置一個CPU加上兩個GPU，其中CPU是Grace CPU，而GPU可能是B100或H100的GPU。

過去，一台傳統AI伺服器看起來可能非常大，像DGX這樣的產品，在市場上的售價大約是三四十萬美元。一個機架如果裝滿了這樣的伺服器，成本就會達到一百二十萬美元左右。

然而，現在新的伺服器不再像以前一樣，一個機架可能只有四台，但每台裡面可能有九到十八台伺服器，因為它們變得更小，只有一到二U的大小。這樣一來，一個AI伺服器裡的GPU數量就從以前的八卡變成了三十六到七十二卡之間。

對於像V100、H100或B100這樣的產品來說，它們的高度之所以會如此之高，是因為它們使用了一些特殊的滑軌和機殼。然而，隨著新的挑戰的出現，輝達可能會改變它們的設計，因為它們現在只需要一到二U的高度，這就是最傳統的伺服器的大小。

最後，值得強調的是，像B100這樣的高U數伺服器仍然存在，但輝達希望將市場主流引向低U數的伺服器。

​ 水冷式散熱

水冷技術在低U數伺服器中扮演著重要的角色，因為伺服器空間變小，瓦數更高，無法使用傳統的氣冷方式進行散熱。目前，浸沒式液冷技術已經被一些人採用，但輝達更推薦水冷技術作為最主流的配置之一。

在接下來的B100伺服器中，預計仍將使用氣冷技術。除非客戶有特別需求，否則DGX和HGX等產品可能會繼續使用氣冷技術。然而，若選擇Obron配置，則可能只能採用水冷技術，沒有其他選擇。

在水冷領域，有一些特殊名詞值得注意。除了常見的Coldplay外，還有一些新增的名詞，如Manyfold，它是一種分歧管，可與不同的伺服器配件進行連接。此外，CDU（Coolant Distribution Unit）是一種重要的設備，主要用於冷卻液的分配，其價格可能高達十二至十二萬美元。

近期，散熱市場呈現混亂局面。造成這種情況的原因可能是多方面的，包括海外供應商不足，以及市場需求的突然增加。一些受惠者包括AVC、雙宏、Cooler Master、Coolit、VRT和Vertiv等公司，但真正能夠獲得訂單的還有待觀察。

對於傳統AI伺服器和高REC數產品來說，它們仍可能受益於氣冷技術。但如果Obron產品大量被採用，則一些滑軌和機殼供應商可能會成為受害者。

在未來，訓練和推論之間的界線可能會變得更加模糊。一些公司可能會將新的GPU用於訓練，將舊的GPU轉用於推論，或者將訓練和推論功能整合到同一晶片中。

總的來說，水冷技術在低U數伺服器中的應用越來越普遍，對於供應商和客戶都提出了新的挑戰和機遇。

覺得整理的不錯幫按個愛心❤️，表示支持(謝謝~)

股癌podcast傳送門(EP435) https://podcasts.apple.com/tw/podcast/ep435/id1500839292?i=1000649011518