這個筆記整理並摘錄自 Gooaye 股癌 EP499 | 🃏,時間是 09 分 01 秒到 24 分 26 秒。為了讓讀者能第一時間閱讀,我會直接將 AI 解讀後的內容上傳,因此可能會有少量錯字,之後等我閱讀時我會進行編修。內容相關的權利完全為癌大所有,如果癌大有提出下架的需求就會立刻下架。小小宣傳一下,我都是用程式和 AI 輔助我做筆記、學習和寫文章,有相關的合作或講課需求可以來信詢問([email protected] )。
ARM 與高通的爭議引發 RISC-V 加速
好,那接下來我們進入今天節目的話題。那早上有一個還蠻大的新聞,先跟大家稍微聊一下,就是 ARM 跟高通這邊起了一個爭議,然後下了一個通牒。當然就是報導裡面寫到,就實際上的東西,目前兩方的公司是沒有去做更進一步的評論,反正就是說給你一個 60 天的通牒,你不改善的話,那你就自己想辦法,不讓你用我的 IP。
那我們知道說高通以及現在在市場上很多玩家,他們其實都是拿 ARM 的 IP 在做東西,最早都是用在這個手機上面。那手機的市占是絕對的壓制,應該 99% 以上。那現在開始去往 PC 方面去走,那因為高通之前買一家公司叫 NUVIA,那他現在要把這個東西開始去往這個,就是本來可能 NUVIA 不是負責的那塊市場去走。那直接這樣走的話呢,當然在這個授權的部分 ARM 就是有權去要求說,這個其實是不同的類別,你本來可能手機的東西你要用到 PC 上面,你要額外再拿一個 license,但是他可能沒有去付這個錢,所以現在就有一個衝突,然後他直接放了這個新聞出來。
當然也不知道說這是不是他故意放出來,但如果放出來其實某種程度上可以視為是一種撕破臉了啦。那當然在短期內我們不會期待說高通就因為這樣子,然後他就退出 ARM 的架構,然後轉向 RISC-V,這是不太可能的事情。但是我覺得這個事情是一個重要的導火線,就是我們可能在三五年後回頭看會發現,原來就是從那時候開始。那我覺得就是在今天,那是一個關鍵的日期。
那因為呢,我不覺得有任何一家公司會喜歡自己的軟趴給人家握在手上的感覺,所以在這樣的一個威脅之下,就算他本來沒有這樣威脅,他可能本來就要往這個放上去,但現在這樣一搞之下,他一定會至少在公司內部會劃一個資源,然後開始更大量的往 RISC-V 的方向去走。
那其實現在已經有滿多東西是在走 RISC-V,如果你在網通廠這邊看的話,就可以注意到已經有很多的產品慢慢移過去,但是目前在手機,然後跟在 PC 上面可能就是比較沒有空間。不過我個人是相信說,本來 RISC-V 他就是慢慢的在前進中,特別是在中國這邊,因為他們被全面封殺的狀況之下,他們往這個開放的架構去做,已經有在推了。
然後現在,假設一些歐美的大玩家,然後他們感受到一些壓力,或甚至是其實也不一定要吵架,就是單純的現在這個世界大家都會去尋求 Multisource,第一個是可以壓價,第二個是降低風險,那勢必都會去對這個 RISC-V 相關的一些公司造成很多的新的,我覺得是偏向好的一個變局。所以這個我們後面可以稍微關注看看,這個事情應該就算他最後面跟 ARM settle 下來,就是沒有什麼太大的問題,但應該會持續的往這個方向去走。
AI 伺服器標準化的趨勢與 NV 的策略轉變
那在伺服器的部分,最近的 OCP Global Summit 上面也算是正式的定調了 AI 伺服器的未來一個高機率的走向,就是用一個關鍵字去講的話,就是 Standardization。在之後呢,這些東西會盡量的把它變成是一個標準化的東西。
那我們都知道說,在過去的伺服器,像是這個 GB200 他的備用卡上面的一堆料,都是由 NV 這邊去做指定,那如果是在 HGX 上面的這種 UBB 板子的話,更是,幾乎所有東西都是通過 NV 的一個審查跟驗證。
那在之後這種 ORV3 的架構持續的推行之下,他們會丟出一個產品,其實現在已經有在市場上,就是你已經看到各家都有在去做相關的行銷了,只是我們現在算是很確定他往這個方向去走,就是這個 GB200 的 NVL2 的出現,其實是一個很關鍵的存在。他的架構呢,會是兩個 Grace 跟兩個 B200,然後打在一個 PCB 上面。
那這個 PCB 呢,跟過往的差距是在於說,他是由 ODMG 做 Design,就是我們本來看到的備用卡,那個備用卡板子本來就是一個模組,你就想像他是一個大型的模組。那之後呢,這個備用卡的模組會變成說,他會變成一個叫做 Puck 的模組。那這個 Puck 的模組呢,就是我們在之後的,也就是前陣子跟大家聊到的 NV 的 GPU Socket 上面會看到。
那他這個 Puck 是透過 CAM 的方式插在下面的這個 UBB 上面。那這個 UBB 呢,之前的代號是被稱為是 Cordelia,那這 Cordelia 我們本來也以為是 NV 要去做設計的東西,然後現在看起來是他可能會給出一個 Reference Design,就是交由各家的 ODM 去分別做自己的設計。
那這樣的做法其實是比較好的啦,我們之前曾經對 NV 的評價就是,這家公司也他媽的太貪了吧,什麼東西都要,就他連這種板子都要自己去指定、自己去做。那現在看起來呢,就是他終於縮回來,就是我們之前覺得不太協調的地方,現在終於獲得一個解決。
那在未來呢,NV 可能就會專注的去做晶片,或是一些高附加價值的內容,那剩下的板子,然後跟到整機的出貨,以及散熱的選擇,可能都會下放到 ODM 端去做處理。那這樣其實是一個比較好的事情,就開始變成一個那種百家爭鳴的時代,然後各家 ODM 就是精銳進出。
像是現在的這種 AIC 的模式,反正我提供你一個顯示卡晶片,然後你怎麼樣去做配置,誰家的顯卡跑出來的效果是比較好,那消費者自己去做選擇。但不管你選誰,最終的受惠都是老黃,所以他現在就是要往這個方向去做前進。
也就是把之前可能自己也要去過分專注,並且丟入大量 RD 資源去開發的 L6 到 L10 的一個這個開發資源呢,全部都可以收回來,然後專注在自己的 GPU 上面的一個開發,其實這是一個非常非常好的方向。
ODM 角色的變化與供應鏈的影響
然後再來就是在風險的方面,其實也大幅的降低,就是過去如果說有一些東西壞掉,一些水冷的漏液,其實在責任的歸屬上,就是那些東西要送來送去嘛,RMA 弄來弄去,那其實最後面我覺得 NV 都還是有一點脫離不了,因為變成說這個東西是他選的,所以可能出問題,那你也要幫忙看著之類的。
那現在就變成是毫無懸念、毫無爭議,反正我就是給你晶片嘛,那你把它做成板子之後,這個板子是怎麼樣去散熱,那就是各家 ODM 自己去做負責。那某種程度上就是把一些風險都轉嫁在 ODM 這邊,雖然我是不知道說,就覺得說如果這東西真的拿去可能做一些水冷,或甚至是陰霾泡進去,然後出了一些問題之後,有沒有可能他可以去跟 NV 要一些東西來,可能一些折價或什麼的,看起來應該是不會,就變成說 ODM 可能就要去把,如果東西有壞掉要維修的話,這個東西要自己吃下來。
所以某種程度上我覺得還蠻可怕的,因為以前一個伺服器的價格是很便宜,可是這些 AI 伺服器如果說這些 ODM 要去扛這些維修,跟假設有東西壞掉要去替換的風險的話,那不知道,搞不好要去找一個保險機構,甚至要再保險,然後把這些東西風險都分散出去,但他會是一個蠻有趣的發展。
然後針對供應鏈方面來說,我覺得初期他絕對是一個好消息,因為在過去基本上就是大家都是要看 NV 的 RV,然後看他推薦的 Reference Design 是誰,或是他指定的料件是誰。那現在就變成說各家的 ODM 他們重新的去拿回一些採購跟議價的權利,然後在一些料件上面他可以去選擇。
舉例來說,有些可能要用自家的東西,有些可能要用他關係夥伴的東西,有些可能就是價高者得。那無論如何,在這樣的一個配置之下,他們就可以去在這個代工的費用上面去額外賺到很多錢,也就是我們講的 Markup。
所以在短期之內,對於 ODM 來講,可能是一個蠻不錯的消息,就是他們終於可以開始去賺到更多錢。可是往這個中長期的方向來講,因為他正式的走向 Standardization,那這個也是當時這個 MJX 架構剛出的時候,我們就先去做出這樣的一個猜測。
那這些東西其實這樣,他根本就是在過往的歷史上發生過太多次了,就是這些標準化的東西,最後面會怎樣,他一定就是銷價競爭,因為大家都可以做。但在初期呢,他還是會有一個這種小的拐點出現,可能也是最近 ODM 在拉的一個主因,就是他是有這個權限可以去做自己的配料,然後去 Markup。
但在中長期來說呢,這個會加速整體的 Standardization 的一個發展,就是他會變成一個標準品,然後最後面這些 AI 伺服器呢,其實就是一個標準品,特別是這種 ORD3 架構的,然後在 HGX 這種上面可能還不一定這麼快,但是在這種 MGX 的垂直式的 Rack 上面呢,應該就是正式的往這個方向去走。
那對於整體的市場來講也是更好的事情,也就是過去我們在看這個 NVLINK 的時候,我們都知道說,就是 36 跟 72 嘛,那現在 36 是已經確定不要做了嘛,當然有一些伏筆,我先講說什麼,假設有客戶指定還是有機會,但我們現在看就覺得他應該只要做這個 NVL72。
那 NVL2 的話呢,就可以想像成說,反正他就是一個 2U 伺服器,雖然現在這個市場還有爭論就是說很難去散熱,但我們先姑且相信說,就是 2U 而不是 4U 的話,你就想像成說,你現在在你的機房裡面,你可以就只買這樣的一個 CHASIS 回來裝。
那它的價格呢,可能就是就幾百萬而已,不會像之前你可能要買一台要一億,它就是可能花個幾百萬,然後一千萬,它就可以完成一個比較初階的 AI 運用了。那像這樣的一個設備呢,它專注的重點會比較在推論上面,那這個也是符合整體 AI 的一個演變。
推論需求的增加與 AI 伺服器市場的未來
就是在前陣子其實是花很多的心力去討論 Training 相關的東西,那其實市場上的人都知道說,最後面就是往 Inference,然後往 Edge Computing 的方向去走。但這樣的一個設備出現,就是開始去可以關注說,當這個設備的拉貨的狀況非常好的時候,可能就正式的要往這個推論的方向去靠攏。
也就是說在大模型的生產跟產值上面呢,可能開始會變成說,就是過往那種很暴力的年增率會開始的去做收斂,然後在推論這部分呢,可能會維持一個很漂亮的成長。
那在設備的部分也很難說,因為現在開始有滿多的設備已經是推論跟訓練,就是你難以分說這個東西到底是要專注用在哪,特別是這種 ORV3 的架構,他們其實是要去做推論跟要去做訓練都是可以的。
但我認為說,在接下來我們可能會注意到這個推論跟推理相關的需求呢,會持續的往上增加。那這個是我們可能在觀察 ChatGPT 最新的這個 OR 的模型上面,我們就注意到說,他在推論上面的使用量是遠大於過去的一些東西,就是他開始會用到很多的推理。
那這也是反映在就是大家在使用上會注意到說,你問他一個問題,他會去反思這個問題是什麼,然後去找出一個更好的答案。所以在推論的需求會更加的增加。
那像這樣子的一個 NVL2 的產品呢,我覺得他可能就是一些企業端他們要把它拿來做推論的時候,很好的一個去降低成本,然後或者是去確保一些東西不會上癮,然後不會有資安,不會有一些隱私跟那種商業機密外洩的風險的一個非常好的一個選項。
所以我們可以觀察這個設備在後面的發展會是怎麼樣,我個人認為可能會是一個在後面是需求蠻大的一個設備,假設說各家的 AI 都有正式的導入的話,那可能大家在私有雲的部分都會選擇去採購這樣子的東西。
稍微的差一點,那我們在 HPE 上面也有注意到已經有往這個方向去導入的一個現象,所以這邊稍微跟大家分享一下。
總結與展望:RISC-V 加速與 GPU 伺服器標準化的影響
就是在現在這個時間點,我覺得制定了兩件事情,一個是前面講的高通因為跟 ARM 有一些衝突,所以即便這個東西有 settle 下來,我認為就是一個很棒的契機,開始在 RISC-V 這邊會持續的去做加速,因為有一些大咖玩家應該從此會正式的加入。
然後再來就是這個 GPU 伺服器的 Standardization,它在後面會產生一些非常有趣的變化,初期的話,我認為在一些供應鏈它會是受惠的,但是在中後期來講,這個東西其實它會慢慢的往一個更平價的方向去走,這是肯定的。
那更平價其實對於整體的產業會是好的,就是只要大家可以買到更便宜的 infra,然後更便宜的這種雲的資源可以被滯用的話,那我們就會更快的看到從 Integrated System 然後轉向軟體百家齊放的一個場面。
所以看起來是一個非常正向,且不會特別難預期,但是比自己想像中還來得快的一個發展方向,那它是一個好事,這邊稍微跟大家分享一下。
車用市場復甦與成熟製程的成長
那接下來呢,我們看了一下今天早上德州儀器公佈的數據,還有昨天 GM 也有開出它最新的 Guidance,它是上修了。那外加前面的一些 IDM 跟 Foundry 去針對車用,以及我們觀察它數據的一些變化,還有在 TSM 的成熟製程以上,我們注意到說,它即便在先進製程的大噴射之下,可是它成熟製程的 Share、營收占比卻沒有往下掉,代表它其實正式的有在復甦。
所以所有的東西都指向一件事情,就是車用的市場已經在這個谷底,然後開始往上拐了。然後可是在消費性的一些市場的話呢,雖然還是有爭議,就是這個往上拐力道到底大不大,可是我們也是非常的確定,它就是在一個谷底的狀態。
市場未來走向與可能的劇本
那所以,於是現在如果要去討論說 2025 年的市場會怎麼走的話,我不知道,我們很難想像到一個比較負面的劇本。但如果說有負面的劇本的話,有可能就是過去漲多的東西修正,然後一些復甦的東西站起來,有可能會往這個方向去拐,但我們還要再觀察下去。
中國 EV 市場的現況與發展
然後德儀這邊開出來的數據顯示,在中國市場這邊的 EV 是很好的,就是超出他們的預期。那過去我們知道說,中國的 EV 競爭是非常非常的慘烈,並且已經有大量的削價。那我們也注意到有那種大量的那種回收場裡面,然後裝滿了 EV,所以大家覺得說 EV 不行了。
但這其實是在產業發展中一個必經的趨勢,就是可能在之前手機也是,一開始都會有一個百家齊放的階段,然後中間會慢慢的收斂,然後變成是幾個寡頭,可能他們吃下市場絕大多數的利潤。那活下來的品牌其實也會收斂,就不會像之前那樣子這麼多,因為在一些價格戰之下,一定是有人要被掃地出場的。
電動車市場的調整與未來預期
那我認為我們過去的一兩年在電動車看到的場面就是這樣子,他並不是像一些媒體或是一些討論所提到,就電動車市場不行了,他是假的,他絕對不是假的。問題在於說他就是經歷了這個初步的膨脹之後,然後現在要去收斂,然後要回到一個健康成長的階段。
那所以在接下來,我們可以期待說這個 EV 的市場應該會有一個還蠻健康的復甦,搭配一下美國的一個降息的方向如果沒有改變,然後川普上來如果說沒有去造成通膨進一步的加劇的話,假設這個降息的趨勢是持續的確立。但過程之中我們還是要隨時期待,搞不好突然間給你一個緊急升息之類的,那種小小升息跳上去。
先不管那些就是可能通膨再起,然後 Fed 可能會做出一些操作,但大趨勢上我們相信說利息應該就會慢慢的下去。那這個對於這種非必需消費型市場來講,是一個好的事情。然後外加我們現在在各家公司所開出來的數據都顯示說,EV 已經開始進入一個 OK 的場面了。
各產業的復甦與市場節奏
然後在個人消費品以及通信以及企業端的系統,他們認為是在一個復甦的狀態。那在 3Q21,也就是 21 的第三季的時候,是個人消費電子的高峰,然後在 22 的第三季的時候,是公控的高峰。所以我們可以期待這個東西會跟,就是當時我們去觀察 2022 剛出來的時候,因為車用是最後一棒,那車用下可能就是說他會比較早去復甦。
那公控呢,因為他是比較慢下去的,所以他可能復甦的時間點也會稍微的再慢一些。那就像是網通,網通那時候也是,就是可能整個市場都在崩跌的時候,網通是有撐住的。那網通呢,現在也是比較慢復甦的,但整體他是漲在一個節奏,就是說整體的這個供應鏈,他每個人的週期是漲不太一樣,但都已經漸漸的走向一個復甦的場面。
供應鏈從疫情影響中走出與樂觀看待
那這跟過去的三四年很大的差別是,過去的三四年,整體的市場因為在肺炎的擾亂之下,他變成是同質性的,就大家同時缺貨,然後同時暴力拉貨,然後以及相關的電力組件都一起噴上去,那一起進入修正。
那現在其實是開始看到說,我們終於正式的從這個肺炎的造成的供應鏈 disruption 中走出來,就是現在這樣的一個復甦其實是一個正常的事情。那在後面呢,我還是會傾向用比較樂觀的角度去看待他。
TI 庫存增加與策略分析
特別是看到 TI 的 Q4 庫存其實持續增加,但公司針對這樣的一個事情呢,並不是給他一個負向的評論。所以其實也是呼應到,就是之前有些人的說法是講說,他們是故意去堆庫存,因為去壓住在接下來的一年,應該有很多東西會復甦,所以如果你手上有更多庫存的,可能就會是贏家。
那這樣相關的討論,其實我們在過去的幾年有討論過,就那時候跟大家聊到說,三星他們很會玩這種火車對撞的遊戲,就是在大家都不好的時候,他反而是反向的去擴廠,然後反向的去增加更多的投資,跟反向的去大力的生產,然後在這個行情反過來的時候呢,他可能就是第一波受惠的啦。
歷史教訓與未來觀察
當然這個記憶體現在可能又暫時進入一個休息,可是我覺得記憶體當時在準備要進入谷底的時候,一些公司很激進的操作,我認為就跟現在這些 PMIX 廠商很激進的操作是一樣的東西。所以如果歷史可以教會我們什麼東西的話,就是這些東西高機率會複製出來,那我們在後面可以再持續的觀察下去。
所以這期的節目先跟大家聊到這邊,希望對大家有所幫助。