股癌EP 622 免費逐字稿(附專有名詞解釋/節錄):
歡迎收聽股癌,我是謝孟恭。本期節目由無名氏贊助。僅藉由此段口播對 12 月 19 日事件中的英勇義舉及所有的受難者表達最深的敬意與哀悼,包含捨身救人的醫師與家長,以及展現出巨大堅強與尊嚴的余媽媽,還有所有在那一天承擔傷痛的人。
有些人最危險的時候選擇站出來,有些人在生命流逝之際依然掛心他人。那些選擇並不是偶然,而是一個社會長期累積的價值與風範。有一段來自國外的評論說:「台灣人創造了一個天堂,只是他們自己不知道而已。」這句話不是說我們沒有問題,而是提醒我們,我們擁有的是這世界上最值得守護的美好。
真正的威脅從來都不是事件的本身,而是恐懼是否會讓我們彼此疏離。團結不是為了世界安全,而是因為我們知道,當危險出現的時候,台灣人懂得冷靜理性、彼此照應,甚至在生死之際能夠堅定的發揮人性光輝。
我們不需要活在恐懼裡,但必須要認清我們可以做出更好的選擇。準備不是疑神疑鬼,而是預先強化維安觀念。關鍵時刻保持清醒的應對,顧好自己與身邊的人,不讓謠言跑得比事實快,讓每一個人都可以成為穩定局勢的一部分。
那最後想要真誠的謝謝台灣人,謝謝你們在關鍵時刻展現的善良、勇敢與秩序。也期許未來的台灣能夠在面對不確定性時,能夠持續的選擇理性而不是恐懼,選擇彼此而不是對立,讓這片土地在一次又一次的考驗之中走向更成熟、更穩定,也更值得被珍惜的樣子。
好,那這大概是我接過最特別的一個廣告委託啦。那它是來自有一個老 Sponsor(贊助商),他特別交代說他要去識別化,他不希望任何人知道他是誰,那他也跟他的團隊講說就不要把他講出去,他覺得不要去偏離焦點。那他想做的只是以一個台灣人的身份對台灣人說話。
我們現在要開始回到我們節目的正題啊。
那首先先聊一下市場上的一些事件,那第一個呢是在差不多一兩天前的時候,有一個國外的科技媒體 Wccftech 呢,他報導講說,因為記憶體的價格現在沒有回檔,而且持續的上漲,所以呢傳說 華碩 (ASUS) 自己要去投入 DRAM 產線來做生產。那這件事情呢,我們直接講一個結論,認為說他成真的機率是極低啦。就是華碩不太可能自己為了喝奶去養牛一樣,去搞這個 DRAM(動態隨機存取記憶體)的生產,它是完全的另外一邊的 Know-how。
然後外加其實我們都知道說這些記憶體廠商他們過去是非常強的一個景氣循環股啦,所以呢賺錢的時候可能是非常賺錢,那個報價狂漲一本萬利這樣,可是呢如果今天是進入一個循環的向下週期呢,那也是非常困難,有很多挑戰。那你還要有持續更多的資本去投入你的代數的演進或什麼,所以那其實超級複雜的東西。
所以其實光是這個新聞第一次出來,大家看到我們身邊朋友都已經會在心中把它畫上一個 Bullshit(胡扯)的等號了。就是你不太可能自己去搞一個晶圓廠啦。你比較有可能做的事情是什麼?就是你可能去找一些這個晶圓顆粒廠去採購,然後接著你去找模組廠,然後把它拼出來,這個可能還有一些可行性。
那只是呢,在我們的記憶體專家朋友的角度呢,稍微問了一下,他們是講說你現在要去買到那種 Channel Grade(通路等級)的顆粒,超級困難。這個也是我們在過去有跟大家聊到,現在這些模組廠他們其實最大的問題是他們的庫存賣光之後,很多就要烙賽(出事)了。因為你低價庫存走出去之後,你接下來你要買的也都是高價的東西啊。那你買高價的東西其實他會怕的一件事是我買一大堆高價的庫存進來,然後後面如果這個價格就反轉或是說拉平要往下走,那是不是就會公司會承擔一個超級大的風險?
那這個可能是比較在後面一點事情啦,可是現階段我們知道的東西是有很多的模組廠或些 Controller(控制器)廠,它是直接飛到韓國去找這些財閥大拜拜活動,看可不可以你多給我一些東西。這個是正在進行式,然後一些交換條件是怎麼樣?就我那個 Controller 可能在裡面投片,那你就給我顆粒,就用這樣去做交換了,那這樣才有東西可以賣。
所以呢以華碩的角度它要去拿到這一些顆粒,其實本身也是不容易的事情。所以另外一個我們剛剛講那種比較有可能的劇本就是他自己去拿顆粒,然後跟模組廠把它拼在一起,可能不知道貼自己的牌去去做生產,這個我們都覺得可行性不太高啦。所以它比較偏向是因為目前記憶體很缺,所以我在猜啦,就是他們在內部可能有開一些會,然後講說我們有哪幾條路線。一條可能就是最誇張的吧,我們直接去搞一個 DRAM 廠,即便那是那種極度不可能。那一個可能相對有可能跟誤傳相關的就是他有沒有可能去投資別人,然後換取穩定的供貨,這個可能還有一點機會,可是也是蠻蠻那種 Wild,就我覺得機率也是很低啊。
那比較有可能就是說他去做一些大量的採購,然後接著去找模組廠把它兜出來,這個可能是有一些機會的。但我相信這些討論應該是就公司內部都有去過、都有去評估過。那有些呢可能就被流出,然後跑到記者那邊,所以就變成是一個報導,我們相信是這樣子。
那稍微簡單的去評論一下,目前記憶體的市況就是漲,就是繼續漲。目前我們看到的狀況就是繼續漲,那在這個 DDR4 跟 DDR5 的部分其實都還是維持一個非常誇張的價格,那 DDR4 甚至是已經反超 DDR5,然後持續的在向上。那我們目前看得到的一個價格的漲勢呢,預計在明年的本來講說大概到上半年嘛,目前是已經可以投射到全年。就是從記憶體原廠那邊所獲得一些資料,預計全年都會是上漲的一個趨勢啦。
那本來講說可能是逐季漲,然後現在有一個比較新的說法,講說應該是會逐月漲,就逐月可能都有一個十幾 % 的一個漲幅,然後持續了下去。也就是說你每個月要去跟他拉的話呢,他就會去額外的再提高這個報價了。那這就是目前在記憶體這邊非常供需緊俏的一個狀況之下所發生的情形。所以可能因為這樣子就有各式討論出來,他們到底要怎麼樣去解決這個記憶體荒。
那在我的角度看來呢,這個應該是很難去透過某種就說某些人去擴產啊,或者某些人去什麼投資啊、怎麼樣,那個都是有點像是說什麼遠水救不了近火這樣的一個說法,就我覺得不太可能。所以只能夠等他稍微的塵埃落定。那這塵埃落定會多久?我覺得這波其實老實講又有超作我自己的一些想像,因為其實 CSP(雲端服務供應商)它的採購力道實在太大了。
然後呢,這個記憶體在他們的 BOM Cost(物料清單成本)裡面佔比極低,就那種個位數超小的。所以即便漲成這樣,他們去買他們還是沒有什麼太大的壓力。因為像說你今天去買一台車,那這台車我告訴你說裡面的某些晶片價格是已經翻了什麼三倍、五倍或是 10 倍,你其實感覺不出來啦,因為那個晶片可能在整個車子的 BOM Cost 裡面超低的,你根本不會在意那個晶片漲多少錢,就是在整個價格看起來都還好。所以它有點類似這樣的一個邏輯啦。
我覺得整個伺服器的 Rack(機櫃)可能是超高的一筆錢,那這個記憶體就算是翻了好幾倍,可是對他們來講都還是小比例的支出啦,所以就會覺得說有辦法吞下去就繼續買。
那當然像這樣子持續漲價呢,在消費性這邊就會造成一些毀滅性的打擊啊,這個是絕對會發生的。那特別是呢,就說以手機來講,手機有分高階跟低階嘛。那高階的狀況就跟我們剛講那個車子的狀況一樣,就是說它整體的價格是比較高,所以呢可能算起來那個記憶體佔比是比較低一點,那可能會有反應到漲價這一塊,可是就不會這麼多。可如果今天是那種中低階的,那它的記憶體假設漲很多,因為它佔比(BOM Cost)是高的,所以就會變成說那個價格可能就會上升是更多的。
那也因此呢就是有機會會產生一些在消費性這邊的需求的問題啦,就是說價格太貴,然後大家就選擇延後換機或是不換機。或是我們在 DIY 市場所看到的就有一些魔改的東西開始出來啦,因為大家知道說這個記憶體的價格這麼貴嘛,那就只好去換個方向,有些說可能那種拆舊機子的出來或是怎麼樣去拼一拼,然後讓大家還是可以用相對合理的價格買到。也就是說在消費級這邊他們的一個價格敏感度是遠高於伺服器這邊,所以這個價格影響最大就是在消費性的需求這邊。
可在 To B(商用)這一段伺服器呢,我們目前是會認為說就算這個價格維持在這邊或是持續的上漲,可能對需求的影響都是有限,所以只能夠說受害的是那些 DIY 啊或些什麼品牌機啊、組裝機那一種類以及手機。
那這個也是我們對氣氛仔的一個小福利啦,在記憶體剛漲的時候就提醒大家說趕快去組電腦,你再不組電腦,電腦就變超貴。你各位現在要趕快去看一下現在的那個記憶體的價格變多少錢。
那後面呢,還有更多東西要漲價。我們最新瞭解到,其實不止這個記憶體漲價,包含說像是顯示卡裡面也有用到記憶體嘛,這個東西也要漲價。那最新呢,連 CPU 都說要漲價了。那 CPU 要漲價的新聞可能還沒有鋪天蓋地的丟出來,可是等到差不多明年大家就會開始注意到這個主流的大的 CPU Supplier(供應商),他們也會出現一些漲價的狀態。
所以呢,我覺得很有趣啊,就是大家去看一些通膨數據,覺得說:「嗯,應該沒有什麼通膨啊,現在通膨看起來還好。」可是在我們的角度看來,所有東西都在漲價。而且另外一個很明顯的是你看一下原物料貴金屬的價格,貴金屬幹全部都超貴。那個並不是說什麼這些貴金屬什麼擴大應用是超厲害,然後可以漲成這樣。我覺得那些貴金屬的價格上去其實某程度就是已經先去提早在 Pricing(定價)大家對於未來通膨的一個預期啦。所以在接下來的一兩年應該會有一些蠻精彩的狀況出來。這邊稍微簡單跟大家分享一下,就記憶體,然後跟記憶體所影響到的一些事。
好,那接下來我們來討論另外一個本週重大的話題啊,就 NVIDIA 花了 20B(200 億美元)去買了 Groq(AI 晶片新創)的團隊跟他的 Know-how 以及 IP 相關的東西。
那這個像說那時候微軟跑去買 Inflection AI,或者說你也可以講是 Google 去買 Character.ai(推測口誤講 winsurf,應指 Noam Shazeer 回歸 Google 或類似人才收購案)這樣。只是 Character.ai 那個比較有點類似比較不好的劇本,因為他直接把人挖走,然後留下一堆工程師。那工程師被 Promise 的一個美好未來,然後變什麼小都沒了,剩下一個空殼。
那這個 Groq 可能然後跟 Inflection AI 可能是比較良性的啦,我雖然基本上也是把整家公司給挖光啦,可是可能說一些投資者啊或者一些那種債務人士啊,他們都還是有辦法拿到他們該拿到的東西,有一點些微差距。但本質上呢都是差不多啦,反正就是說在這個時代要去加強 AI,像在這些科技巨頭他們的腦袋裡面都有個共識:「我們要的是人,人是最重要的。」所以我直接把人買走就好,我把人買走,那那個公司留一個空殼在那邊,根本就是也是沒什麼用了啦,所以我只要把人抽走就沒問題。
這過去就是我們所熟悉的,你要去買,你會買下整家公司跟他所提供的服務有很大的一個差距了。所以可以從這邊就看得出來說科技巨頭他們現在的一個觀念就認為說買人可能是最重要的一個東西。所以 AI 時代最重要的東西還是在人身上,這個有點諷刺有點好笑,因為本來很多人的腦中的認知裡面是 AI 時代人就是越來越不重要,因為 AI 是最強的。但 AI 還是要有人去做開發啦,所以呢人其實還是非常的重要。
那為什麼 NVIDIA 會去買 Groq 呢?當然這個大家都只能夠用猜的啦。那有幾個簡單的劇本嘛。
第一個就他其實只是單純的想買人,因為這個創辦人 Jonathan Ross 呢,他以前也是 Google TPU 的開發者之一。所以 NVIDIA 的算盤可能只是單純的我把這個人收進來跟他的團隊收進來,那我就少一個對手嘛。那這些人都要幫我做事的話,或許我們可以去想出更多的可行性,然後這是一個最簡單的就是買人的想法。
那第二個就是可能是有一些綜效的想法啦。就說可能它的 SRAM(靜態隨機存取記憶體)可以整合進去 Nvidia 的架構裡面。因為我們知道說現在今年的跟明年的討論,大家已經慢慢的從過去我們都在講說 Training(訓練)嘛,怎麼樣去把這個 HBM 堆到更高,然後讓 Training 的效率更好。但現在大家討論的很多東西其實是聚焦在推論(Inference)。
包含像我們之前跟大家聊到的 NVIDIA 的 GB200(推測口誤為 CPX,或指 Blackwell 架構相關產品),這個是用在 Prefill(預填充/上下文處理)的一個晶片,它使用的是 GDDR,大量的 GDDR。那它的目標就是要讓它可以快速的去讀你的前後文,那讓它在推論上面是更有效率。
那我們知道在 Prefill 之外,還有另外一個環節就是 Decode(解碼/生成)。那 Decode 的話呢,像 SRAM 就是一個非常獲用的東西,因為它在寫入的速度是很快的。所以有可能是因為這樣子,就是我們前面已經看到一個使用 GDDR 這樣的產品,那後面就是有可能會在結合 Groq 之後呢,然後推出某種有用到 SRAM 的一種 Decode 的解方。所以讓它 Prefill 跟 Decode 整體的效率的表現是更好,然後用這樣子呢去擠壓一些 ASIC(特殊應用積體電路)的 Player(參與者),這個是也是有機會的。但大家都整個用猜的了,我們不知道到底老黃(黃仁勳)的算盤是怎麼樣。
那目前在坊間就開始出現一些討論啊,其實就跟之前講說 TPU 因為它開始怎麼講,嶄露(頭角)嘛,所以很多人講說 TPU 會擊敗 GPGPU(通用圖形處理器)的 NVIDIA。那我們當時在節目跟大家講說這個其實是一個無稽之談啊。但這類的討論其實在市場上蠻容易引起一些共鳴啊,因為我覺得他是刻在人性裡面的。我就覺得他都是人他是沒有辦法處理譜的,他是沒有辦法處理灰階的。我講的是說就他腦袋他的設計,我也是長大之後才知道說原來這麼多人他看事情只有黑色跟白色,他不知道每個東西都是有可能有彈性,他不知道說就他可以是一個 Win-win Solution(雙贏方案)之類,他是有可能每個人都是在裡面有他表現的機會。
他就認為說反正一定有一個是什麼最頂的,就很多人講話說什麼這個是最頂的,這個是最屌的,所以因為這樣它就是一定要有一個東西哦,一分高下也決生死。所以當 TPU 可能聲勢起來,他們就跟你講說 NVIDIA 的 GPGPU 不行。但這其實超奇怪的啦,因為 GPGPU 呢還是有它厲害的地方,不論就是在通用性的方面,還有成本的考量上。
就如果說我們今天可以在呃在改動很多的演算法或是說甚至 AI 有一些新的 Route(路線)出現的一個狀況之下,要去做到最有效率的切入的話呢,那我們還是會去選擇 NVIDIA 的一個 GPGPU。那今天如果說路線是很確定的話,那就有可能會去用 ASIC 來降低一些成本。那很多人看 ASIC 的成本有問題,也是因為它是用 Google 自己的成本去看,那沒有辦法,那是有點像補貼的形式下去做的,所以那成本自然是會比較低啊。只是這個東西你去跟一些人講,他們是聽不懂的,因為他就是一定要告訴我說他媽現在誰最頂,誰的股價漲最多,那他一定是最頂的。他不知道說就有些東西,他只在休息。休息完之後可能就會再繼續的漲。
那你發現說就這些人他們蠻多,有可能就是最近在講說:「所以 SRAM 就會去擊敗 HBM」這樣的人,因為他們就是一定要分一個高下。但其實這類的討論老實講在 2023、2024 的時候就出現過,因為那時候 Groq 就是跑出來講說他有一個東西叫做 LPU (Language Processing Unit),就 Language Process Unit。那這個東西呢,因為它使用了 SRAM 嘛,所以那時候中國就是炒過一波 SRAM 概念股。雖然這個東西你現在回頭看,你也覺得超莫名其妙,因為 SRAM 呢,它本身是 On-chip(晶片內建),就是說現在你覺得說看到它是本身就已經是跟著晶片一起去刻出來的,所以呢,它不是像一般大家想像是外掛的,然後把它做完之後再拿來做整合,它不是,它直接就在裡面了。所以你去炒一些 SRAM 概念股本身是很怪。
然後再來就是 SRAM 它的成本是很高的。就是它去處理一個 Bit(位元)呢,可能是需要六個 Transistor(電晶體)。那如果今天是在講說一般的 DRAM 的話呢,它是 1T1C 啦,就是一個 Transistor 再加上一個 Capacitor,一個電容。那所以因為這樣子的一個構造上的差別呢,導致 SRAM 它需要的空間是很大的,所以它也比較難以去做微縮。所以導致的一個非常昂貴的晶片面積上面,因為它就是佔空間嘛,所以它整體就是會比較貴一點,它就是比較貴。
所以像之前 Groq 它如果要去做訓練的話,你一次需要超多顆,因為它本身容量是很低的,所以它就要一次放一大堆才有辦法去做 Training。那如果今天去做 Inference(推論)的話,效率就非常好。它的實際的做法就是說把每個參數拆解,然後放在這些記憶體裡面,那這樣去跑的話就可以是以非常快的速度去做呈現。所以它優勢是在這裡。
那你直接把它拉出來當成是一個超級屌的項目的話,就很奇怪。就是你要講說 SRAM 概念股那可能就台積電類似這樣。但我還是會覺得說就是這並不是一個 SRAM 要去擊敗 HBM 這麼簡單的事情,或是像之前大家講的什麼 TPU 要去擊敗 GPGPU,一定不是這樣去演的,因為就是各有各的所長,各有各的發揮空間。
SRAM 可能是 Decode 的部分上面有一些精彩的表現機會,或者是我自己的想像是把它放在一些 Edge Device(邊緣裝置)可能是有機會啦。可是你說它在 Training 這邊你要用它去取代所謂的 HBM(高頻寬記憶體)的話,那那個成本是太貴了,所以應該是沒有人會去這樣子做。就是在不同的用途上有不同的產品的使用空間,你可以這樣去做一個想像。
那只是這個事件呢,我會把它做進一步的延伸。那以下這個延伸就比較偏向是我們那種市場派的角度去講的,所以呢一些專業人士聽到有可能會皺眉頭。但是我跟你講,我們很多時候像我跟我朋友講一些東西,我說待會那個東西可能會跟著拉。然後我朋友說為什麼?我說因為他講到某個關鍵字,然後那個公司他平常有在吹那個關鍵字,所以大家只要一 Google 就會找到那個公司。那他看到 A 公司漲起來,他 Google 發現 B 公司,他就馬上跑去買 B 公司。即便 B 公司是錯的,可能最後面漲得比 A 公司還來得多,這就是實際上在市場上最常看到的一個劇本。
那所以呢,當然有些人可能會去找所謂的什麼 SRAM 概念股 or whatever。但我自己的猜想是我們先去拆解一下 NVIDIA 這個行為本身宣示了什麼事情。NVIDIA 花 200 億美元去買了 Groq 團隊,它的目的是什麼?我們可以視為說它是一個想要去打破 Memory Wall(記憶體牆)的嘗試。
那什麼叫做打破記憶體牆呢?因為我們知道說在 AI 時代記憶體是一個非常卓越地位的東西啦。今天如果是在訓練方面的話呢,你需要很大的容量去做存儲嘛,去跑那個 KV Cache 嘛。然後再來就是在推論方面的話呢,那你可能就是要比拼的是速度嘛,效率怎麼樣可以更快嘛。所以記憶體呢更強大、更快、容量更大,就是一個大家想要努力的一個方向。
那更進一步呢是希望可以把這個記憶體呢基本上是它如果可以本身就是運算單元的話是最好,也就是我們過往很常聽到的一個概念,In-Memory Computing(記憶體內運算)。我直接把 Computer 做在記憶體裡面,我就不用說跑去拿資料。可以做一個非常簡單的想像,就今天有一個廚師在那邊做飯哦,腦中先想一個廚師在做飯,那隔壁有很多的原料啦,那它可以直接伸手就拿到的話,那它的速度就很快嘛。如果說今天它的原料是要走到後面的冰櫃去拿,或甚至是走到隔壁的庫房去拿,那是不是速度就會變慢?
那這其實跟電腦運作的邏輯一樣,就是東西呢是放在硬碟裡面嘛,那要的時候就把它拿到 DRAM 去做處理嘛,就比較快哦,可以直接去接到電腦的 CPU、GPU 這樣子。所以那次說就是我們要把存儲的東西盡可能的靠近處理的地方,那這樣就會有更好的一個效率。
那於是呢,市場上就有各種的東西跑出來嘛。那像 HBM 大家已經是非常熟悉了,就是在過去 AI 時代的一個主秀訓練的一個核心材料,我們就是一定要有 HBM 才可以去跑好 AI 的訓練嘛。那後面就開始有越來越多的 Cool 東西跑出來,包含像最新的 HBF(應為 HBS 或特定新記憶體規格,依上下文推測)嘛,這個就是可能後面 SanDisk 做的東西啊。那一樣就是要讓這個記憶體呢可以跑得更有效率。
那包含像我們看到 GDDR,這個 GDDR 它可能不一定是超級快的一個記憶體,可是因為它容量夠大,那拿來做 Prefill 很適合。所以就注意到說在記憶體方面大家有各式各樣新的玩法,那就只是為了要讓這個整個 AI 的不管是訓練或是推論的流程跑得更加的順暢。
那 In-Memory Computing 呢可能是一個比較遠的一個概念。但是 High Bandwidth 大家就已經非常熟悉了,Low Latency(低延遲)或者說怎麼樣在 Inference 裡面去做更多的應用。
那在 HBM 之後有沒有更多新的東西哦?那包含說其實在我們的上一集的 QA 那個聽眾就跟通靈一樣,因為他那個是發生在這個收購事件之前嘛,他就已經留下這個留言,他突然間跑來問我說我覺得就某家公司的這個 VHM(應為 VHM 或 Wafer-on-Wafer 相關技術)跟 WoW (Wafer-on-Wafer) 怎麼樣。其實 WoW 這個技術不是只是那一家公司有在做,像什麼 TSMC、三星也都有類似東西。
WoW 它的概念什麼?就是一個 3D 的異質整合,就是它下面是運算單元,然後直接把記憶體的 Wafer(晶圓)就蓋在上面。所以你可以想像成說 HBM 它可能有 1024 個管子(I/O 通道),讓它快速的去做傳輸,可是它比不過我直接把兩個 Wafer 疊在一起,那是等於是無限個管子(TSV 接點),我傳輸的速度就可以拉得更快。
那這當然 Wafer-on-Wafer 有很多需要去解決的東西啊,甚至在散熱這邊也是有要去討論的一些空間。但是有可能就是在這個事件之後,因為大家如果去認真的剖析說老黃為什麼買這個?除了說他是買人之外,另外一個就是他就是想要去思考怎麼樣打破記憶體牆。那於是所有的解方都被翻出來,所以包含這個 Wafer-on-Wafer (Very High Bandwidth Memory) 啊,然後或者是像 華邦電 它有一個 3D CUBE(CUBE: Customized Ultra-Bandwidth Element),這個我們過去也跟大家聊到。那這 3D CUBE 呢,它其實是想要做進去 L3 Cache(三級快取)啊。
那這個 L3 Cache 呢,你本身也可以把它視為說反正就是要去加速記憶體在這個運算方面的一個協作啦。所以它也可以視為是想要去打破記憶體牆的某一種嘗試。雖然嚴格上來定義,我也把它視為說它可能是一個比較低配版的 HBM,可是它是類似的東西。
所以在接下來的一陣子,我自己猜想就如果這個新聞有持續去燒,或是老黃這邊有去做一些表態,或是有一些分析人員,像最近大家在可能那是 LinkedIn 還是 X 上面有看到那 Dylan Patel(SemiAnalysis 分析師)的一個發文嘛,就大家會開始去思考說為什麼老黃要去做這個買賣。那他們最後面呢就按照我自己對市場的理解跟認知,我覺得他們就已經繞回到說:「所以老黃就是想要更新、更快的一個記憶體,更有效率的去做推論。」
那因為這樣子大家會去找哪些東西他們可能是潛在的 Solution(解決方案),那於是可能這些東西呢,在市場上面就會有一些 Rerate(重新評價)的空間存在啦,這是我自己比較大膽的一個猜想。
那跟大家已經強調,因為這個可能跟那個就是在非常專業領域的人的看法會有點不一樣,因為他們會覺得說像我講的一些東西,那個還這麼遠,那個還這麼久。可市場很有趣哦,像大家最近都已經是怎麼講,CPO(光學共封裝)已經在台灣的眼中,目前已經視為說就是有了嘛。你已經看到這麼多,你看到 Nvidia 的 CPO 嘛,然後你看到 Broadcom(推測口誤為 Tomah Hawk,指 Broadcom 之 Switch 晶片)的 CPO 嘛,就大家都已經看到。可問題是你知道這個東西是什麼時候開始股票就動嘛?三年前是三到四年前左右東西就已經先動了。
所以其實市場有時候它真的會走得比較快一點啦。所以有可能就是說如果今天大家開始把焦點從本來的 HBM 然後換到——你看至少大家願意去討論 SRAM 嘛。那為什麼要用 SRAM?然後大家可能開始理解到說因為它的速度是更快,然後效率是更高嘛。那可是 SRAM 太貴,那 SRAM 太貴,我們什麼其他的解方?那就會有一些答案就會浮出來了。所以這可能是在接下來就我自己會想觀察一下市場的一個可能性。那一樣這是一個比較前期的猜想。所以如果說後面真的有走出一些族群的話,那我們再拉出來跟大家做討論。
↑請多支持癌大原版podcast(傳送門)
歐伯彙整 股癌 EP622懶人包:
一、 記憶體與硬體市場:全面通膨的前奏
1. 華碩自建 DRAM 廠傳言?(假議題,真訊號)
- 傳言: 外媒報導因記憶體太貴,華碩 (ASUS) 打算自建產線。
- 分析: 機率極低。這就像「為了喝牛奶去養牛」,不符合成本效益與技術門檻。較合理的推測是華碩正在尋求更深度的供應鏈綁定(投資或長約)。
- 訊號: 這反映了記憶體缺貨與漲價已成定局。模組廠庫存耗盡後,將被迫買入高價顆粒,風險劇增。
2. 漲價趨勢:從「逐季」變「逐月」
- 現況: DRAM/NAND 報價持續上揚,DDR4 甚至出現反超 DDR5 的現象。原廠態度強硬,漲價頻率可能從每季調整變為每月調整。
- 受害與受惠:
- 受害(消費端): DIY 電腦、手機、中低階筆電。因為記憶體佔整機成本(BOM Cost)比例較高,對買氣有毀滅性打擊。
- 無感(伺服器端): CSP(雲端大廠)採購力強,且記憶體佔伺服器總成本比例極低(個位數 %),即便翻倍漲也不影響擴產決心。
- 通膨警示: 不只記憶體,顯卡、CPU、貴金屬都在漲。這是硬體端對未來通膨的領先指標。
二、 AI 產業變局:Nvidia 收購 Groq 的戰略解讀
1. 收購目的:買人 (Acqui-hire) + 技術互補
- 人才戰: 科技巨頭共識是「AI 時代人最重要」。買下 Groq 主要是為了創辦人 Jonathan Ross(前 Google TPU 開發者)及其團隊。
- 技術拼圖:SRAM 的角色
- 推論 (Inference) 的兩個階段:Prefill (預填充/理解上下文): 需要大容量、高頻寬 → Nvidia 用 GDDR (如 GB200/CPX) 來處理。Decode (解碼/生成回應): 需要超低延遲、寫入速度快 → SRAM 是最佳解。
- 戰略意圖: Nvidia 可能藉由整合 Groq 的 SRAM 技術,打造出「Prefill (GDDR) + Decode (SRAM)」的混合強怪,進一步擠壓 ASIC 廠商的生存空間。
2. 下一波炒作題材:打破「記憶體牆 (Memory Wall)」
- 邏輯: HBM 雖強,但傳輸還是受限於物理距離。未來的趨勢是 In-Memory Computing (記憶體內運算),把運算單元直接疊在記憶體上。
- 關鍵技術關鍵字 (可能成為新飆股題材):
- WoW (Wafer-on-Wafer): 晶圓堆疊技術(台積電、三星皆有)。直接把記憶體晶圓蓋在邏輯晶圓上,頻寬是 HBM 的無限倍。
- 3D CUBE: 華邦電 (Winbond) 的技術,鎖定 L3 Cache 應用,雖是低配版 HBM,但在邊緣運算或特定加速場景有機會。
- 市場往往跑在技術成熟前 3-4 年。當大家開始討論 SRAM 或 WoW 時,相關概念股(即便目前營收佔比低)可能會迎來一波 Re-rate (估值重估)。
三、 其他產業觀察
1. RFID (無線射頻識別) 的翻身仗
- 背景: 全球人力短缺,零售、倉儲、醫療需要自動化盤點。
- 優勢: 成本極低(幾美分)、體積小(像貼紙)。
- 機會: 這是長期趨勢。台灣有做模組與手持讀取器的廠商,重點在於誰能接到國際大客戶(如 Uniqlo 等級)的訂單,誰就有機會起飛。













