麥特週報 (2024/12/12)

李麥特

更新於 2024/12/13發佈於 2024/12/13閱讀時間約 15 分鐘

投資理財內容聲明

【目錄】

01 麥特的話

02 下週事件

03 專題討論 - AWS EC2 Trn2 & EC2 Trn2 Ultra Server

04 財報更新 - AVGO (FY2024Q4)

05 持股比例 - NTAP

------------------------------------------------------------------------------------

【麥特的話】

這個禮拜我們去了溫哥華市區的聖誕市集，這個市集有很多小攤販，也有許多各種國家的食物，但讓我印象最深刻的是德國豬腳，路過的時候就會聞到他們的酸菜臭得要命，但是配上那肥肥厚厚的豬腳真的是剛剛好，真是難以忘懷的臭味，明年還要再來吃。

這個是豬腳，不是雞

聖誕市集！

因為小孩的學校，高年級的學生們因為要籌備校外旅遊的基金，所以學校讓他們舉辦一個小小的市集來販賣各種東西給低年級的學生們，因此當天給了兩個孩子各5元。回到家的時候，第一個孩子說他的玩具是6元，他說他去櫃檯換錢，用一個1元換到2元，所以剛好可以買。第二個孩子說他的蠟燭是4元，因為剛剛好所以不需要找錢。雖然說總數還是10元沒錯，但是聽完只想把他們送回台灣去補習班勞改，深深覺得加拿大真的是都在玩，沒有在管算數的。

你們到底知不知道自己在說什麼

本週週報主要會介紹AVGO財報，我從本週一就期待到週四的盤後，其中也不斷看券商最新的preview報告。日思夜夢，為你一人，綿綿情意，夢醒變成空。我原本以為會這樣，但是最後迎來了好結果，真的是蠻開心的。接著也會跟大家介紹大摩每個禮拜對於AI Supply Chain Check的更新，這個禮拜的主角是AMZN的Trainium2。關於持股比例也有更新，我將PSTG的部分份額轉移到也是存儲的NTAP，詳細原因我也有寫在後面。

------------------------------------------------------------------------------------

【下週重要事件 (12/16至12/20)，如表1】

*** 我是利用軟體查詢各公司財報日期，實際還是要看公司公布日期 ***

【下下週重要事件 (12/23至12/27) ，如表2】

*** 我是利用軟體查詢各公司財報日期，實際還是要看公司公布日期 ***

------------------------------------------------------------------------------------

【專題討論 – AWS EC2 Trn2 & EC2 Trn2 Ultra Server】

In summary

- - 本週的文章著重於在AWS的re: Invent 大會，上面宣布了EC2 Trn2 & EC2 Trn2 Ultra Server，以上這兩者都是基於Trainium2進行組建，最後再建立當前的龐大資料中心 (Project Rainier)。

- - 而本篇的論述流程是Trainium2 -> EC2 Trn2 Server -> EC2 Trn2 Ultra Server -> Project Rainier，因此將基於這個脈絡進行介紹。

Trainium2

- - Trainium2 裡面有兩顆主要的運算顆粒，負責處理所有的工作，再加上四顆HBM3e的記憶體，可以快速儲存其大量運算結果。再搭配TSM的CoWoS-S/R的封裝技術，將這些運算顆粒還有記憶體堆疊在一起

- - 目前Trainium2已經處於量產階段，是由MRVL進行設計。目前大型CSP與IC design的公司合作的ASIC，如圖1。MRVL跟世芯則會負責AMZN Inferentia 3的推理跟訓練晶片。

圖1: 科技巨頭與IC design house的ASIC合作對象

由Trainium2 組合成的 Server

- - 一個標準機櫃：可以放兩台大台伺服器
  - 一台伺服器：一共42U的高度
  - CPU：2U架構，只有1層，裡面有2個CPU
  - GPU：2U架構，有8層，每層放2個GPU (Trainium 2)
  - 所以一個機櫃32個Trainium2 晶片
  - 這個Server硬體架構，將會拿來驅動EC2 Trn2 的運算，接下來我們來介紹什麼是EC2 Trn2。

EC2 Trn2

- - 首先，不論是EC2 Trn2 (Trainium2驅動) 跟P5e Trn2 (H200驅動)，這都是AMZN提供給客戶的服務名稱，只是驅動的硬體差別而已。

- - AMZN 在大會中指出，EC2 Trn2對比於基於8顆 H200驅動的Trn2 P5e來說，可以提供30% - 40%更好的性價比 (效能 / 價格)。

EC2 Trn2 Ultra Server

- - Ultra Server 主要是由兩個機櫃組成，一共四台伺服器通過主動式電纜的連接，形成一台Ultra Server (一共64個Trainium2)，如圖2。

- - 比起EC2 Trn2的伺服器，該伺服器的運算能力提高了五倍，記憶體容量上升了十倍。

圖2: AWS Trainium2 Ultra Server

Project Rainier

- - 這是AWS發表了專門為自家大型語言模型的Anthropic的大型資料中心 (Ultra cluster) 名字，預計將放入40萬顆Trainium2晶片。這40萬顆晶片將透過AMZN自身的連接技術EFA (Elastic Fabric Adapter)，與許多台伺服器之間的高速傳輸。

- - AMZN目前已經蓋好了七棟建築物，每棟65MW，而第二階段預計再蓋九棟建築物，每棟規格也是65MW，這個資料中心預計要用上1,040MW，這也是為什麼各科技巨頭都去找電力公司進行簽約合作。

- - Project Rainier將會提供AMZN未來的AI模型，更好的硬體設備，比起現在模型Claude用的硬體，速度高出五倍以上。

﹝麥特評論﹞

本篇文章主題就是圍繞在AMZN的Trainium2驅動的模型，但是如果客戶如果要轉移方案 (從NVDA硬體轉至AMZN硬體)，則需要看代碼是否需要大幅修改，這對團隊來說又是新技術的學習曲線跟人力成本，企業需要針對這些成本進行綜合考量。因此不是說推出新的硬體技術，而NVDA的主導地位馬上就會改變。因此看完本篇文章，我認為主要可以知道的資訊是，AMZN仍然在努力開發自己的GPU，想辦法減少對NVDA的依賴。

因為本篇主要在講AMZN，我便重新整理了一下對於AMZN的理解。目前有機會激勵股價上行的部分，主要是兩點

一、整體零售部門的OPM上升：上季的表現是38%，對比市場預期33%有著很好的表現。此外，國際銷售 (英國、德國與日本) 的部分，其零售利潤率改進至4%，代表AMZN在國際市場運轉的九年當中，其服務跟運送成本正在持續下降，希望營利能夠接近北美水準 (5.9%)以上。

二、 AWS 目前表現良好：沒有被Azure跟GCP拉出差距，Buy-side對於AWS的要求是維持年成長率20%。這點我們可以透過財報與MS的CIO Survey進行檢查。註：MS的CIO Survey是每季出一刊，上次是10/10發布，持續追蹤中。

------------------------------------------------------------------------------------

【財報更新 – AVGO (Broadcom)】

﹝本季財報營收數字 (FY) 與下季財報指引﹞

本季還沒開財報之前，券商紛紛發布財報預覽，幾乎每間券商都認為AVGO本季財報或是下季指引只會符合或是稍微低於預期，最主要的論述就是AI ASIC的部分，跟GOOG合作的TPU正要從TPU v5轉移到TPU v6，所以大家都預期出貨會暫緩，導致營收會有一段空窗期。接下來我們先看一下本季財報與市場共識的比較。

本季營收數字 (FY2024Q4)：營收為$14.05B，對比市場共識$14.1B。本季EPS：$1.47，對比市場共識$1.39。
今年AI營收 (AI ASIC + AI Networking)：今年AI ASIC加AI Networking一共達到了$12.2B (YoY = 220%)。
今年 EPS：一共達到了$4.91，市場共識明年的EPS則可以達到$6.19。
下季營收數字 (FY2025Q1) ：$14.6B
下季EBITDA Margin：66%，對比市場預期65%。
明年AI營收 (AI ASIC + AI Networking)：目前$15B - $20B

從本季的數字看起來，其實整體表現跟市場預期沒有太多差異。而關於指引，AVGO改變了方式，從全年指引改變成每季進行指引。在營收數字沒有太大差異的前提下，財報發布的當下股價並沒有急遽上升。而隨後在電話會議中提供了關於營收三大動能的資訊，股價有明顯的上行，以下是我整理過後的看法。

圖3：AVGO的本季營收河流圖 (資料出處：App economy insight)

﹝本季財報亮點﹞

將著重在AVGO的三大營收動能進行更新。

第一 (AI ASIC)：

AVGO目前有六個客戶分別是GOOG / META / ByteDance / OpenAI / CSCO / AAPL，在本季發布財報之前，就有新聞指出OpenAI和AAPL找AVGO進行合作，股價已經有先行反應。而市場預計AAPL開發出來的ASIC將要應用在自家的data center上，取代M2或是M4。此外，管理層提到前三大客戶，他們都計畫著要在FY2027部屬100萬個XPU Cluster。因此，管理層提到，這每個客戶將提供$20B - $30B的整體機會，加總起來就是$60B - $90B。如同上述週報提到的，AMZN的Project Rianier要部屬40萬顆Trainium2，我們將會在接下來這幾年持續看到大規模的資料中心建置，因此，在此趨勢的驅動之下，我們也持續看好電力跟核能股。

第二 (AI Networking)：

隨著Tomahawk跟Jericho在全球的出貨推動下，本季的Networking營收十分強勁。不論是800G或是400G的Networking晶片，想必都會隨著AI 數據中心以及企業升級的情況下，有明顯的增長。另外，MS的100位CIO的IT支出調查之中，大多數的CIO都認為現在網通已離開去庫存的階段 (如圖4)，目前處在健康的狀態，回補庫存將是會是未來會發生的事。

圖4：MS的CIO IT支出調查，針對於網通部分的調查

第三 (VMware) ：

這個業務自從併購以來，AVGO先從最大的10,000家客戶下手，陸續簽訂了VCF (VMware Cloud Foundation) 合約。因此這個事業群不斷奉獻有意義的實質營收 (每季$4B)，雖然也有券商預期這部分可以達到每季$6B，但是綜合券商的資訊看起來，維持$4B的看法會比較謹慎正確。除此之外，VMware在被併購之前，營業利潤率不到30%，但是根據最新一季的財報資訊，目前已經達到了70%，十分強勁的增進。

﹝麥特評論﹞

本次管理層在電話會議中提到，他們擁有的前三大客戶將一共有著$60B - $90B的總市場機會，而他們認為將可以在明年獲得$15B - $20B的份額。除此之外，他們還有另外兩個大客戶 (可能是OpenAI & AAPL)，將有望在未來三年內實現導入並量產，因此市場對於成長的想像空間就變得很大。除此之外，關於Networking的部分，當XPU clusters 上升到了50萬個到100萬個時，其占比將會達到15% - 20%。從之前Semianalysis的報告中可以知道，各科技巨頭為了降低對NVDA的依賴，紛紛跟AVGO合作其網路解決方案。在Tomahawk的放量情況下，我們有望看到更多侵蝕市場份額的機會出現。最後，在管理層併購VMware之後，跟前一萬大客戶進行新約簽訂並且大幅改善了營業利潤率。上述提到的三大營收動能，在本次財報中，管理層均給出非常有意義的更新，這也給我了十足的信心繼續持有這檔股票 (14%)。

此外，表4的更新時間是美國時間12/12，因為卡到週報出刊時間，我預計下禮拜會再更新一次市場預期 (因為券商會去調整所有營收細節)。

﹝市場預期，如表4﹞

------------------------------------------------------------------------------------

【持股比例更新】

上週提到了，PSTG在財報中宣布了贏下了科技巨頭的大單，因此短線衝得很高。因此我便也去看存儲業的龍頭NTAP，看是否被低估了。
因為篇幅的關係，我在這邊先附上結論，有機會再跟大家介紹NTAP這間公司：

- - PSTG跟NTAP走的論述都是，因為AI的快速發展，將使得企業跟數據中心對於存儲的需求增加，這已經是既定趨勢，只是發生的時間點早晚而已。
  - 對比雙方產品，在沒有強力edge的情況下，如果雙方都沒有開始要打價格戰，那在這個市場份額會增加的趨勢下，NTAP跟PSTG都會受惠。
  - 但是對比於PSTG當前的37.5倍本益比，相較之下，我認為NTAP相對安全的多，只有17.6，不像PSTG的狀態那麼樂觀。
  - 因此我把PSTG的份額降至2%且獲利了結，轉3%至NTAP