股癌 EP625 逐字稿&筆記分享

事前聲明：

本逐字稿為AI自動生成，會有缺漏、錯字，且網站有字數限制故刪除工商、閒聊、QA，敬請見諒

[02:50.040~02:51.560] 那相較於個人的績效

[02:51.560~02:53.040] 當然我們知道那種績效比很短

[02:53.040~02:54.440] 是沒有什麼太大的意義

[02:54.440~02:56.160] 當然就是目前就屌速大盤

[02:56.160~02:57.160] 然後這個大盤太恐怖

[02:57.160~02:58.080] 大盤噴成這樣子

[02:58.080~02:59.240] 幹你要怎麼贏啊

[02:59.240~02:59.880] 太厲害了

[02:59.880~03:01.240] 就除非說你這陣子剛好手上

[03:01.240~03:03.120] 全部都是買到不知道群創吧

[03:03.120~03:04.680] 那不然就是滿手記憶體之類的

[03:04.680~03:07.040] 不然像自己手上是有很多的設備

[03:07.040~03:09.080] 那設備其實也是波段走得還蠻不錯

[03:09.080~03:09.640] 可是問題就是說

[03:09.640~03:11.240] 你要贏過大盤其實還是非常的困難

[03:11.240~03:14.320] 然後外加其實最近的盤面開始有一些

[03:14.320~03:16.280] 我覺得那種蠻大的轉折性出現

[03:16.280~03:17.360] 這可能後面再來跟大家分享

[03:17.360~03:17.960] 所以呢

[03:17.960~03:21.120] 我覺得至今就覺得說表現的還好而已

[03:21.120~03:22.320] 當然其實身邊的朋友蠻多

[03:22.320~03:24.160] 特別是他們在做量化或是鎖漲停的

[03:24.160~03:25.680] 他們就講說最近的這個盤面

[03:25.680~03:27.240] 真的有開始有變化

[03:27.240~03:29.160] 很多的散戶都重新的加入了

[03:29.160~03:30.520] 之前他們一直在抱怨說什麼

[03:30.520~03:31.320] 散戶都不見了

[03:31.320~03:33.360] 當然這個並不是我很熟悉的一種言語

[03:33.360~03:35.000] 因為他們鎖漲停的一個說法

[03:35.000~03:36.640] 就是說看那個買盤的強弱

[03:36.640~03:38.880] 就知道說現在有多少散戶在裡面追

[03:38.880~03:40.080] 那他們有一段時間

[03:40.080~03:41.360] 差不多是一兩個月前就在講說

[03:41.360~03:42.120] 散戶都不見了

[03:42.120~03:43.320] 然後現在說散戶都回來了

[03:43.320~03:44.800] 所以這邊給大家參考一下

[03:44.800~03:46.480] 就像市場真的是非常的熱

[03:46.480~03:48.480] 當然開年很熱的話

[03:48.480~03:49.800] 對我們來講我們就是

[03:49.800~03:51.440] 怎麼說我們跟市場分析是一樣

[03:51.440~03:52.320] 就是我們可能是僅次於

[03:52.320~03:53.760] 你老媽最擔心你的人

[03:53.760~03:55.400] 心中會想一下說

[03:55.400~03:57.960] 提早漲的話會不會後面就漲完的

[03:57.960~03:59.840] 那如果不漲你也在那邊靠杯說

[03:59.840~04:00.600] 都沒有漲的話

[04:00.600~04:02.360] 那會不會今年台股的市場輸其他的

[04:02.360~04:05.440] 所以不管好壞都會有很多的想法在背後

[04:05.440~04:07.480] 但確實我們這邊開始有一些說法是說

[04:07.480~04:09.000] 媽的第一季就要這樣子噴的話

[04:09.000~04:10.800] 那會不會後面就死魚一整年不知道

[04:10.800~04:13.440] 反正到時候再來跟大家做分析跟討論

[04:13.440~04:14.440] 當然目前還是覺得說

[04:14.440~04:16.520] 就是目前開年的氣氛是很好

[04:16.520~04:19.360] 那整個市場上也有很多新的資訊出來

[04:19.360~04:20.480] 包含像是CES上面

[04:20.480~04:21.680] 不管是老黃或是蘇媽

[04:21.680~04:23.360] 都有丟出很多新的東西

[04:23.360~04:24.360] 所以呢還是祝福大家

[04:24.360~04:25.840] 在新的一年都會很順利

[04:25.840~04:27.520] 因為新的故事有持續出現

[04:27.520~04:29.280] 我覺得就不是什麼太大的問題

[04:29.280~04:30.760] 那市場瘋狂的時候呢

[04:30.760~04:32.360] 如果說你發現你賺輸別人的話

[04:32.360~04:32.960] 也不用擔心

[04:32.960~04:34.520] 因為我在這邊直接跟大家承認說

[04:34.520~04:36.880] 開年至今我就連大盤都沒有打贏

[04:36.880~04:38.680] 那很多那種什麼滿手記憶體

[04:38.680~04:39.520] 滿手面板的

[04:39.520~04:41.400] 他們應該都已經是不知道贏了幾條街了

[04:41.400~04:42.760] 所以非常恭喜他們

[04:42.760~04:43.560] 但對我們來說

[04:43.560~04:45.040] 這就是一個短期的狀態

[04:45.040~04:47.600] 那希望後面也可以持續的追上

[04:47.600~04:49.160] 那最近在市場上面

[04:49.200~04:51.080] 有蠻多新的話題的產生

[04:51.080~04:52.280] 那我們先來講盤面好了

[04:52.280~04:53.160] 就是最近的盤面

[04:53.160~04:54.760] 像今天我覺得是一個

[04:54.760~04:56.560] 蠻關鍵的時間點

[04:56.560~04:56.800] 為什麼

[04:56.800~04:57.840] 因為今天的加權指數

[04:57.840~04:58.720] 其實根本就沒有什麼動

[04:58.720~05:01.320] 它其實就是一個0.46%的跌幅

[05:01.320~05:03.240] 那貴買這邊呢甚至是創了新高

[05:03.240~05:05.160] 可是今天的股票有很多有趣的現象

[05:05.160~05:07.240] 就是過往我們認為是市場top pick

[05:07.240~05:08.000] 也就是

[05:08.000~05:08.640] 怎麼說

[05:08.640~05:10.200] 反正你知道法人共識超高

[05:10.200~05:11.600] 然後你隨便去問一個市場仔

[05:11.600~05:12.280] 或是說產業仔

[05:12.280~05:12.880] 他們都跟你講說

[05:12.880~05:14.560] 這些公司沒有問題藏多的

[05:14.560~05:15.800] 包含像什麼建策啊

[05:15.800~05:16.880] 茂聯啊

[05:16.920~05:19.080] 或是說2345

[05:19.080~05:19.760] 志邦啊

[05:19.760~05:20.720] 然後再來

[05:20.720~05:21.560] 台光電等等

[05:21.560~05:23.040] 就在今天都出現重挫

[05:23.040~05:24.320] 那前幾天7769

[05:24.320~05:26.200] 就是很多人手上的制服股

[05:26.200~05:28.000] 鴻進他也是出現了一個跌幅

[05:28.000~05:29.840] 雖然那個是蠻奇怪的事情

[05:29.840~05:31.080] 就是市場上有傳一些小作文

[05:31.080~05:32.560] 然後後來被證實是假的

[05:32.560~05:33.600] 那但這些就是所謂的

[05:33.600~05:35.680] 很多法人跟市場大戶們的

[05:35.680~05:36.840] 共識的股票

[05:36.840~05:37.840] 那在這幾天呢

[05:37.840~05:39.760] 我們都看到有這個跌幅的出現

[05:39.760~05:40.920] 所以這其實蠻神奇的

[05:40.920~05:42.600] 因為這些東西在過往被視為

[05:42.600~05:44.080] 是一種那種不敗的象徵

[05:44.080~05:45.360] 就它只會一直往上

[05:45.360~05:46.280] 那當然也有可能說

[05:46.280~05:47.280] 他們這次跌一跌之後

[05:47.280~05:48.160] 之後又繼續往上

[05:48.160~05:49.880] 只是說他們同時在那邊摔的話

[05:49.880~05:50.680] 就會覺得說

[05:50.680~05:52.560] 是不是市場又再一次的進入

[05:52.560~05:55.120] 某種又要去做轉換的階段

[05:55.120~05:56.440] 過去的一些主流股

[05:56.440~05:57.800] 會不會開始有些人要提款

[05:57.800~05:59.120] 要去做新的布局或什麼

[05:59.120~06:01.160] 這是我們在接下來會想要觀察的

[06:01.160~06:02.480] 那一樣如果說你今天是用

[06:02.480~06:03.880] 各種基本面的角度去看的話

[06:03.880~06:05.440] 其實很多時候我覺得在短線上

[06:05.440~06:07.480] 你去拿基本面去講故事會很奇怪

[06:07.480~06:09.360] 像那今天茂聯在跌嘛

[06:09.360~06:10.360] 然後有些人就在講說

[06:10.360~06:11.680] 那是因為輝達要去使用

[06:11.680~06:12.920] Cableless的Design

[06:12.920~06:14.240] 那如果有聽我們節目的知道說

[06:14.240~06:15.640] 這個我們可能至少在半年前

[06:15.640~06:17.280] 或是更早以前就跟你講過這件事情

[06:17.280~06:18.960] 所以它根本就不是什麼新鮮事

[06:18.960~06:20.760] 那再來就是退一萬步而言

[06:20.760~06:22.560] 就算是Cableless的Design

[06:22.560~06:24.360] 可是它其實跟茂聯是沒有關係的

[06:24.360~06:24.680] 為什麼

[06:24.680~06:25.680] 因為茂聯做的東西

[06:25.680~06:27.840] 從頭到尾都不是inrec的Cable

[06:27.840~06:30.160] 它做的是要伸出去的那種Cable

[06:30.160~06:31.560] 那inrec的Cable的話

[06:31.560~06:32.680] 是像是Ephanol這樣

[06:32.680~06:34.240] 可是Ephanol你說它有大跌嗎

[06:34.240~06:35.440] 好像也沒有看到

[06:35.440~06:36.320] 所以就是變成說

[06:36.320~06:39.040] 市場會去為一些東西強找理由

[06:39.040~06:40.560] 這個是我們很常看到的

[06:40.560~06:41.880] 那當然有可能是

[06:41.880~06:43.320] 傳了大概一兩年以上的

[06:43.320~06:44.720] 就是說有可能有一個

[06:44.720~06:46.120] Second supplier會進來

[06:46.120~06:47.160] 那這個當然我們不排除

[06:47.160~06:47.840] 它有可能是真的

[06:47.840~06:49.320] 但反正就是在下跌的時候

[06:49.320~06:50.920] 就像我跟大家長期講的

[06:50.920~06:51.600] 每次下跌

[06:51.600~06:53.120] 就有很多人拿鬼故事出來嚇你

[06:53.120~06:55.200] 所以其實長期持有一些標的

[06:55.200~06:56.200] 根本就不容易

[06:56.200~06:57.000] 很多人都以為說什麼

[06:57.000~06:58.200] 長期持有可能是很簡單的

[06:58.200~06:59.000] 很無腦沒有

[06:59.000~07:00.320] 因為其實每次的壞消息

[07:00.320~07:01.600] 你就要做出你當下的判斷

[07:01.600~07:03.040] 你到底要繼續持有還是你要賣

[07:03.040~07:06.120] 所以它其實本身就是一個不容易的事情

[07:06.120~07:07.520] 那再來在台光電這邊

[07:07.520~07:09.120] 當然也是跟輝達是有關

[07:09.120~07:10.360] 因為大家最近在傳說

[07:10.360~07:11.800] 就是本來會用的那種M9材料

[07:11.800~07:12.440] 就沒有要用了

[07:12.440~07:13.400] M9可能用M8

[07:13.440~07:15.680] 那有些講說用M8的可能用M7之類的

[07:15.680~07:17.440] 反正就是在規格提升方面

[07:17.440~07:18.920] 可能是有一點不如市場的預期

[07:18.920~07:20.160] 可是這一點又有點奇怪

[07:20.160~07:21.040] 因為舉例來說

[07:21.040~07:22.200] 你說沒有要用M9的話

[07:22.200~07:23.480] 可是M9有些是要去搭配

[07:23.480~07:24.840] 那個石英砂做使用的

[07:24.840~07:26.800] 但石英砂的類股又沒有跌

[07:26.800~07:28.320] 那反而只有台光電在跌

[07:28.320~07:30.440] 所以就變成邏輯上還是有一點奇怪

[07:30.440~07:31.560] 因為理論上如果要殺的話

[07:31.560~07:33.120] 應該是兩個都要一起殺之類的

[07:33.120~07:35.440] 那所以在我自己的認知會認為說

[07:35.440~07:37.240] 有可能就是像我所提到的

[07:37.240~07:39.000] 因為它這些股票基本上

[07:39.000~07:41.920] 它像前陣子就是我的一個集中的持股

[07:41.920~07:43.800] 就是說我本身就是會去

[07:43.800~07:44.640] 同時拿這些東西

[07:44.640~07:45.560] 那其實很多人跟我一樣

[07:45.560~07:46.440] 很多法人圈的人

[07:46.440~07:48.560] 或是一些市場更大戶的人

[07:48.560~07:49.520] 他們也會做類似的事情

[07:49.520~07:50.440] 因為這些東西的成長性

[07:50.440~07:51.320] 太明顯擺在那邊

[07:51.320~07:53.000] 所以他們也會去持有這樣的股票

[07:53.000~07:54.640] 那瞬間突然一起轉向的話

[07:54.640~07:57.360] 有可能就是一個資金偏好的變化

[07:57.360~08:00.200] 那或許有部分是因為基本面所致

[08:00.200~08:02.000] 可是我覺得可能不完全是因為基本面

[08:02.000~08:03.320] 所以是要跟大家講一下想法

[08:03.320~08:05.080] 那最近有類似這樣子的東西產生

[08:05.080~08:06.920] 結果它一天之後就馬上洗臉

[08:06.920~08:08.240] 就是Google的OCS

[08:08.240~08:10.640] 在前陣子有傳出一個

[08:10.680~08:12.120] 就是市場的鬼故事

[08:12.120~08:13.360] 那我們知道說其實市場

[08:13.360~08:15.280] 它有一個很明顯的節奏就是

[08:15.280~08:16.520] 氣筒轉光

[08:16.520~08:17.840] 就是說銅相關的股票

[08:17.840~08:19.120] 其實都表現得不太好

[08:19.120~08:20.400] 那在光的方面

[08:20.400~08:21.320] 就是像是Lumentor

[08:21.320~08:22.240] 或者說Coherent

[08:22.240~08:23.920] 在過去是非常的強勢

[08:23.920~08:26.080] 那可是在前陣子也出現了一個重殺

[08:26.080~08:27.000] 那這個重殺

[08:27.000~08:27.760] 就是市場上就有

[08:27.760~08:29.520] 馬上有去傳出一些

[08:29.520~08:31.240] 怎麼樣小作文跟小故事

[08:31.240~08:32.800] 提到說因為在Google的V9

[08:32.800~08:34.200] 他們可能會去使用Switch

[08:34.200~08:34.880] 所以因為這樣

[08:34.880~08:37.880] 有機會就會去降低OCS的一個使用

[08:37.880~08:38.760] 但當然這個很快

[08:38.760~08:40.320] 就被一些產業人士給打臉

[08:40.320~08:42.360] 說反而可能會不減反正

[08:42.360~08:43.760] 因為在這個

[08:43.760~08:45.960] 更多的Switch的一個使用之下

[08:45.960~08:47.400] 它其實是要把本來一些

[08:47.400~08:48.720] 比較小的Pod

[08:48.720~08:50.640] 那從銅線也變成是

[08:50.640~08:52.240] 要往光的方向去走

[08:52.240~08:53.480] 那所以就認為說

[08:53.480~08:55.520] Google在未來光的用途上

[08:55.520~08:56.560] 只會越來越多

[08:56.560~08:58.080] 用量也會越來越大

[08:58.080~08:59.600] 所以反而OCS的交換器

[08:59.600~09:00.280] 就會越用越多

[09:00.280~09:02.000] 那立刻的本來是先重甩

[09:02.000~09:03.400] 然後接著又直接拉回去

[09:03.400~09:05.560] 所以有些市場上的所謂的小作文

[09:05.560~09:06.600] 很多時候會造成這樣

[09:06.600~09:07.520] 短期一個漣漪

[09:07.520~09:08.640] 但我們不排除

[09:08.640~09:09.560] 這幾支強勢股

[09:09.560~09:10.320] 今天這樣子跌

[09:10.320~09:12.080] 可能是一種短期的現象

[09:12.080~09:13.680] 只是同時還是跟大家去

[09:13.680~09:14.760] 分享另外一個可能性

[09:14.760~09:16.280] 就是市場一些資金要變換的

[09:16.280~09:17.440] 那一些過往的時間點

[09:17.440~09:18.160] 我們也是有注意到

[09:18.160~09:19.680] 這樣的一個狀態

[09:19.680~09:20.440] 然後到時候就會看

[09:20.440~09:21.920] 市場新的主流變成是誰

[09:21.920~09:22.920] 那舊的這些主流

[09:22.920~09:24.520] 並不是說它就會就此下去或什麼

[09:24.520~09:25.720] 它可能就是變成橫盤

[09:25.720~09:26.800] 這是有機會的

[09:26.800~09:29.480] 所以這可能就等到後面再來觀察

[09:29.480~09:30.560] 那再來這個禮拜一個

[09:30.560~09:31.480] 比較大的事情就是

[09:31.480~09:33.560] NVIDIA去正式的宣布

[09:33.560~09:34.440] 他們的Vera Rubin

[09:34.440~09:35.800] 說已經是Full Production

[09:35.800~09:36.680] 那這個Full Production

[09:36.680~09:37.680] 應該講的是在講說

[09:37.680~09:39.160] 晶片端這邊是Full Production

[09:39.880~09:41.640] 那只是要等到後段去上線的話

[09:41.640~09:42.560] 應該大家還是要等到

[09:42.560~09:45.160] 26年的年中以後才會發生

[09:45.160~09:46.520] 那像這個Vera Rubin

[09:46.520~09:47.800] 在什麼效能的提升上

[09:47.800~09:49.000] 我們不去做太多討論

[09:49.000~09:50.720] 但是我們去拉一個老黃講的重點

[09:50.720~09:52.520] 它Transistor可能是多兩倍

[09:52.520~09:53.920] 可是它的效能可能是多十倍

[09:53.920~09:54.480] 這代表什麼

[09:54.480~09:55.920] 就代表說其實他們認為的

[09:55.920~09:57.880] 摩爾定律搞不好已經掛掉了

[09:57.880~09:58.520] 現在重點是什麼

[09:58.520~09:59.960] 現在重點是我們要去用

[09:59.960~10:01.480] Hole Rack的一個Solution

[10:01.480~10:03.720] 包含說搭配我們各式各樣的

[10:03.720~10:04.480] 新的晶片

[10:04.480~10:05.480] 新的線材

[10:05.480~10:07.760] 新的Rack的設計散熱等等的

[10:07.760~10:08.680] 然後讓它的效能

[10:08.680~10:10.360] 可以在每年都持續的進步

[10:10.360~10:11.760] 即便摩爾的定律可能

[10:11.760~10:13.720] 已經是稍微的軟掉了

[10:13.720~10:14.760] 沒有這麼大的利器了

[10:14.760~10:15.560] 可是我們的東西

[10:15.560~10:16.520] 還是可以維持

[10:16.520~10:18.000] 每年數倍的一個成長

[10:18.000~10:19.560] 那就是在我們Hole Rack的一個

[10:19.560~10:21.360] 掌握度是非常好的狀況之下

[10:21.360~10:22.800] 那所以這個我覺得重點

[10:22.800~10:24.040] 就是說在後來的硬體

[10:24.040~10:27.200] 有在NVIDIA他們所喜歡的對象

[10:27.200~10:28.920] 包含說採用的一些Solution

[10:28.920~10:29.960] 可能都是後面會

[10:29.960~10:31.360] 持續成為主流的東西

[10:31.360~10:33.440] 所以未必就是說像大家去想像的

[10:33.440~10:35.600] 硬體可能到某個階段會

[10:35.600~10:36.280] 告一個段落

[10:36.280~10:37.720] 然後開始去轉向一些

[10:37.720~10:38.320] 軟體的應用

[10:38.320~10:40.000] 說不定有些硬體會持續的進行著

[10:40.000~10:42.600] 因為那是新的某種摩爾定律的意思

[10:42.600~10:44.160] 那這個大家可以稍微的參考一下

[10:44.160~10:45.160] 然後再來他有提到一個東西

[10:45.160~10:45.680] 蠻有趣的

[10:45.680~10:46.720] 就是我們不去針對VR

[10:46.720~10:47.480] 去做太多評論

[10:47.480~10:49.400] 因為這個我們早在數個月

[10:49.400~10:50.200] 甚至快要一年前

[10:50.200~10:51.360] 就已經跟大家去聊過了

[10:51.360~10:52.600] 因為市場就是這麼變態

[10:52.600~10:53.640] 就是接下來我們可能會

[10:53.640~10:54.640] 提早就跟大家討論

[10:54.640~10:55.720] 費曼這個架構

[10:55.720~10:57.280] 那費曼明明就還沒有出

[10:57.280~10:58.240] 可是我們會提早先講

[10:58.240~10:58.840] 那一樣的道理

[10:58.840~11:00.840] 因為VR都已經去做過評論

[11:00.840~11:01.760] 所以我們就會評論它

[11:01.760~11:03.320] 所提出來的我們還不知道

[11:03.320~11:04.520] 然後是新的東西

[11:04.520~11:05.240] 有一個叫做

[11:05.240~11:07.360] NVIDIA Inference Context Memory Storage (ICMS) Platform

[11:07.360~11:09.080] 那我們先把它稱為是ICMS

[11:09.080~11:10.440] 就直接拿它的

[11:10.440~11:12.840] 每個開頭的字母去做一個簡體

[11:12.840~11:14.000] 那這個ICMS呢

[11:14.000~11:15.360] 就是你可以把它想成是

[11:15.360~11:17.080] 由BlueField晶片去驅動的

[11:17.080~11:18.480] 某種存儲節點

[11:18.480~11:20.280] 就是說從過往的NVIDIA

[11:20.280~11:21.600] 我們知道它強調的東西

[11:21.600~11:23.680] 是除了它的這個Compute Power之外

[11:23.680~11:24.200] 那後來呢

[11:24.200~11:26.400] 他們自己採購了這個大量的HBM

[11:26.400~11:27.880] 那或者是說

[11:27.880~11:30.360] 在一些CPU的DRAM的使用上

[11:30.360~11:31.600] 這些我們都已經把它視為是

[11:31.600~11:33.640] NVIDIA它的盤中飧

[11:33.680~11:35.800] 就它自己已經是掌握好的東西

[11:35.800~11:37.680] 那只是它現在想要把它的觸手呢

[11:37.680~11:39.040] 就是更進一步的

[11:39.040~11:40.440] 從這個Compute的東西

[11:40.440~11:41.840] 然後跑到Switch

[11:41.840~11:42.440] 然後接著呢

[11:42.440~11:43.480] 甚至連Storage這邊

[11:43.480~11:45.000] 它都要去參與手

[11:45.000~11:46.520] 那也就是我們後來是有機會

[11:46.520~11:47.880] 看到一些NVIDIA的

[11:47.880~11:49.440] DPU Storage Server

[11:49.440~11:51.200] 就是說這個Server的大腦

[11:51.200~11:52.600] 應該就是由它的BlueField

[11:52.600~11:53.840] DPU去驅動

[11:53.840~11:54.760] 那裡面的Storage

[11:54.760~11:55.800] 當然還是大家認知的

[11:55.800~11:57.440] 傳統的那些SSD

[11:57.440~11:58.800] 那就是說我們還不能確定的是

[11:58.800~12:00.440] 就是它這一些

[12:00.440~12:01.960] DPU的Storage SSD

[12:01.960~12:03.400] 是不是要NVIDIA Certify

[12:03.400~12:04.800] 就是它要Qualify之後的東西

[12:04.800~12:05.640] 才可以去做使用

[12:05.640~12:07.080] 還是說它是某一種通用規格

[12:07.080~12:09.240] 那你只要有採購到NVIDIA的DPU

[12:09.240~12:10.960] 都可以去做一個整合的

[12:10.960~12:12.960] REC之間的連接去做使用

[12:12.960~12:14.200] 這個我們還沒有辦法確定

[12:14.200~12:16.320] 但是我們有一點點的蛛絲馬跡

[12:16.320~12:17.920] 我們在昨天呢

[12:17.920~12:19.760] 有跟大家分享的一張圖片

[12:19.760~12:20.600] 那這張圖片呢

[12:20.600~12:23.560] 就是有人去這個CES的現場拍出來的

[12:23.560~12:24.280] 那接著呢

[12:24.280~12:26.400] 這個眼尖的台灣人們就發現了

[12:26.400~12:26.960] 奇怪了

[12:26.960~12:27.920] 它那個SwitchTrade

[12:27.920~12:29.360] 左下角有一塊板子

[12:29.360~12:30.640] 那這塊板子上面呢

[12:30.640~12:32.480] 有一個非常熟悉的名字

[12:32.480~12:33.760] 它中間有一塊SSD

[12:33.760~12:35.800] 那這個SSD的Controller是Phison

[12:35.800~12:36.960] 那Phison是誰

[12:36.960~12:37.960] 就是FIVE person

[12:37.960~12:39.880] 他們那個取名就是群聯

[12:39.880~12:41.120] 群聯的Controller

[12:41.120~12:43.760] 怎麼會出現在NVIDIA的SwitchTrade裡面呢

[12:43.760~12:45.880] 這個就讓大家感覺到非常好奇

[12:45.880~12:47.920] 那當然我們也去做了一點點的挖掘

[12:47.920~12:49.600] 有錯的話歡迎大家鞭打

[12:49.600~12:51.440] 因為這些東西基本上都不是公開資訊

[12:51.440~12:53.280] 都是要去做挖掘才會知道的

[12:53.280~12:56.200] 那這個Controller就是由群聯所出貨

[12:56.200~12:57.280] 那後面那兩塊NAND

[12:57.280~12:58.560] 我們不知道是哪個廠商所提供

[12:58.560~12:59.960] 但是因為群聯自己沒有做顆粒

[13:00.000~13:02.800] 所以應該是群聯去做採購的一些

[13:02.800~13:03.640] 不知道就NAND的顆粒

[13:03.640~13:05.640] 然後把它組上自己的Controller之後呢

[13:05.640~13:07.840] 然後交給NVIDIA這邊打板在上面

[13:07.840~13:09.080] 那當然這個對群聯來說

[13:09.080~13:10.320] 就是一個非常大的利多

[13:10.320~13:12.640] 就代表說他自己已經做進去NVIDIA裡面了

[13:12.640~13:14.480] 那當然這一塊東西就引起我們的好奇

[13:14.480~13:16.520] 我們就想知道說那到底是怎麼樣運作的

[13:16.520~13:17.480] 那就我們理解呢

[13:17.480~13:18.960] 它上面的那個NAND的顆粒呢

[13:18.960~13:20.320] 是TLC顆粒

[13:20.320~13:22.000] 可是它是把它做成說

[13:22.000~13:23.960] 是PSLC什麼意思

[13:23.960~13:25.520] 就是它要去模仿SLC顆粒

[13:25.520~13:26.120] pseudo

[13:26.120~13:27.760] pseudo SLC顆粒

[13:27.760~13:28.920] 那本來TLC呢

[13:28.960~13:30.480] 是一個cell裡面可以放三個bit

[13:30.480~13:31.520] 然後把它變成一個cell裡面

[13:31.520~13:32.560] 只能夠放一個bit

[13:32.560~13:33.800] 所以就容量會變小

[13:33.800~13:35.720] 所以它一個呢其實是512GB

[13:35.720~13:37.400] 但實際上能夠用的只有裡面的

[13:37.400~13:39.000] 可能160到170G

[13:39.000~13:39.920] 那為什麼要這樣子做

[13:39.920~13:41.360] 就是因為我們都知道說

[13:41.360~13:43.840] 反正在資料的快速存取之下

[13:43.840~13:44.560] 很多人會好奇說

[13:44.560~13:46.120] 就要說你要把什麼KV cache

[13:46.120~13:47.080] 下放到SSD

[13:47.080~13:48.000] 那有一個問題就是說

[13:48.000~13:49.280] SSD不就一下就壞掉了

[13:49.280~13:51.120] 因為一直瘋狂要去存取它嘛

[13:51.120~13:53.400] 那但如果說你今天把它變成是pseudo的

[13:53.400~13:54.640] SLC的話呢

[13:54.640~13:57.320] 那就可以讓它的使用壽命大幅的延長

[13:57.320~13:59.760] 所以當我們掌握到這個情報之後呢

[13:59.760~14:01.160] 其實就可以了解到

[14:01.160~14:03.920] 到底NVIDIA它的這個ICMS

[14:03.920~14:04.720] 是要搞什麼東西

[14:04.720~14:06.760] 可能跟我們在Switch上面看到的

[14:06.760~14:08.600] 群聯這些東西有蠻大的關聯性

[14:08.600~14:10.320] 當然它不是可能未來是

[14:10.320~14:11.600] 群聯solo去supply

[14:11.600~14:13.600] 它目前只是去展群聯的一個solution

[14:13.600~14:16.080] 可是就是後續有可能是往這個方向去發展

[14:16.080~14:17.600] 也就是我們剛剛前面所提到的這個

[14:17.600~14:19.240] DPU的storage server呢

[14:19.240~14:21.720] 它可能裡面會用到這個存儲

[14:21.720~14:23.600] 當然有些可能是TLC顆粒的

[14:23.600~14:24.840] 可是有些是SLC

[14:24.840~14:27.280] 或者就是這種pseudo的TLC的東西

[14:27.400~14:27.960] 那為什麼呢

[14:27.960~14:30.200] 因為它想要把一些context

[14:30.200~14:32.200] 就是本來這些KV cache的東西呢

[14:32.200~14:35.080] 放到SSD這邊去做存儲

[14:35.080~14:36.440] 那很多人一定會好奇說為什麼要這樣做

[14:36.440~14:38.120] 它不是本來是放在HBM

[14:38.120~14:40.840] 或者是說在CPU支援的這些RAM下面嗎

[14:40.840~14:42.040] 為什麼會把它拉出去

[14:42.040~14:43.120] 那最主要原因是在於說

[14:43.120~14:44.000] 因為最早的AI

[14:44.000~14:45.400] 大家在做使用的時候是怎麼樣

[14:45.400~14:46.000] 就是一問一答

[14:46.000~14:47.560] 你問他問題他就回答你嘛

[14:47.560~14:48.480] 那所以在那時候呢

[14:48.480~14:49.520] 可能說有HBM

[14:49.520~14:50.880] 或是有這些CPU的RAM

[14:50.880~14:52.120] 就已經非常的足夠

[14:52.120~14:54.280] 可是因為現在進入agentic AI的一個時代

[14:54.280~14:55.240] 也就是我們現在去問AI

[14:55.240~14:55.920] 很多時候你知道說

[14:55.920~14:57.240] 它是有reasoning的一個過程

[14:57.240~14:59.960] 或者說它是要去執行你一連串的動作

[14:59.960~15:02.400] 那並且要不停的去提取上下文

[15:02.400~15:04.160] 它會去知道說你前面講的東西是什麼

[15:04.160~15:05.080] 因為總不可以說

[15:05.080~15:06.360] 你每次去問他問題

[15:06.360~15:08.240] 他就要重新全部再跑過一次吧

[15:08.240~15:10.240] 所以它其實在這個KV cache

[15:10.240~15:11.640] 或者說暫存這方面呢

[15:11.640~15:12.960] 它現在的要求是很大的

[15:12.960~15:14.000] 那已經導致說

[15:14.000~15:15.600] 可能HBM或者說在RAM這邊

[15:15.600~15:17.240] 它的負載是很大

[15:17.240~15:18.360] 所以其實一直都有一個說法

[15:18.360~15:19.960] 就是說要把這些東西轉到

[15:20.600~15:23.520] 可能去下放到外面的存儲的空間去

[15:23.520~15:25.000] 然後這樣才可以去把HBM

[15:25.000~15:26.720] 或者是CPU的RAM

[15:26.720~15:28.640] 去做更高價值的一些應用

[15:28.640~15:30.400] 也就是說可能會有熱資料

[15:30.400~15:31.800] 然後跟準熱資料

[15:31.800~15:33.680] 那一些準熱資料可能就可以丟出去

[15:33.680~15:35.480] 那熱資料就可以放在

[15:35.480~15:36.480] 寸土寸金的地方

[15:36.480~15:37.800] 包含像是HBM S RAM

[15:37.800~15:41.120] 或者說CPU的RAM上面去做使用

[15:41.120~15:42.040] 所以在我的角度看來

[15:42.040~15:44.080] 其實NVIDIA跟JSON他們是蠻變態的

[15:44.080~15:46.600] 就他們真的是領先別人數不不止

[15:46.600~15:48.800] 就當大家發現了一個痛點之後呢

[15:48.800~15:51.640] 然後可能他早就已經去針對這個痛點做準備了

[15:51.640~15:53.160] 所以當你發現痛點

[15:53.160~15:54.240] 然後就推出新的東西

[15:54.280~15:56.600] 包含說像前陣子的CPX Prefail

[15:56.600~15:57.440] 然後或者是說呢

[15:57.440~15:58.480] 他去買下GROK

[15:58.480~15:59.480] 然後大家去判斷說

[15:59.480~16:01.360] 他應該在DCO這邊要去做努力

[16:01.360~16:03.480] 所以他其實早就已經在推動中了嘛

[16:03.480~16:05.280] 他並不是說什麼大家發現這個東西

[16:05.280~16:07.160] 然後接著一兩年後他給你一個solution

[16:07.160~16:08.880] 好像每次都是大家發現說

[16:08.880~16:10.440] 有些東西開始有一些問題了

[16:10.440~16:11.640] 然後他立刻就有solution

[16:11.640~16:14.040] 代表他已經鴨子滑水一段時間了

[16:14.040~16:16.080] 所以他應該是已經提早發現說

[16:16.080~16:17.560] 因為接下來的AI使用

[16:17.560~16:19.760] 大家都是已經是偏向可能reasoning

[16:19.760~16:22.760] 或者說我給你的一個指令

[16:22.760~16:25.000] 他可能需要的上下文是非常大的

[16:25.000~16:27.400] 那他必須要不停的回去存取說

[16:27.400~16:28.560] 你前面跟我講過什麼

[16:28.560~16:29.760] 不然很多人去使用AI

[16:29.760~16:31.520] 他們有一個很大的feedback是

[16:31.520~16:33.040] 當一個AI很多人用的時候

[16:33.040~16:34.600] 像Gemini剛開始推出的時候

[16:34.600~16:35.480] 大家說超強

[16:35.480~16:36.920] 就是這個最新的版本

[16:36.920~16:38.520] 那一段時間之後大家覺得他變笨

[16:38.520~16:39.160] 為什麼變笨

[16:39.160~16:40.760] 就是因為他的一些memory

[16:40.760~16:42.280] 都是給人家佔據了嘛

[16:42.280~16:44.200] 他整個server都是給人家佔據了嘛

[16:44.200~16:44.800] 所以就變成說

[16:44.800~16:47.440] 他會去切割每個使用者可以用到的一個份量

[16:47.440~16:49.360] 所以你就有感的感覺到AI變笨

[16:49.360~16:51.680] 那沒有辦法那是硬體的一個restraint

[16:51.680~16:54.080] 那老黃這邊就是想要去幫大家解決這個問題

[16:54.080~16:55.080] 就讓你的AI呢

[16:55.080~16:57.480] 不再因為說他可能上下文太多

[16:57.480~16:58.360] context太多

[16:58.360~17:00.360] 然後導致有斷片的一個狀況產生

[17:00.360~17:01.000] 那是怎麼樣呢

[17:01.000~17:03.840] 就是他在存儲這邊去做更多的一個優化

[17:03.840~17:05.000] 所以呢我把東西呢

[17:05.000~17:07.240] 可能放到我的DPU storage那邊去

[17:07.240~17:08.600] 那理論上像大家去想像說

[17:08.600~17:10.360] 你把東西放在storage server的話

[17:10.360~17:11.880] 那不就時間會變長沒錯

[17:11.880~17:12.960] 所以我認為是這樣

[17:12.960~17:15.480] 就是未來的應用會拆得更加的細

[17:15.480~17:17.240] 不然說其實現在大家AI就已經知道說

[17:17.240~17:18.160] 你在問一些問題

[17:18.160~17:21.360] 他會用比較快捷式的model來回答你嘛

[17:21.360~17:22.600] 那有些你問的問題比較深

[17:22.600~17:23.960] 他就用思考型的回答你

[17:23.960~17:25.680] 就是他會去做一個這種

[17:25.680~17:27.080] 像是分類器的東西

[17:27.080~17:28.480] 他去篩出你的問題是怎麼樣

[17:28.480~17:30.360] 那一樣的道理就是說在任務上面

[17:30.360~17:32.880] 如果未來是那種就是一問一答形式的東西

[17:32.880~17:34.720] 那他應該還是會使用所謂的

[17:34.720~17:36.840] 寸圖寸金的HBM SRAM

[17:36.840~17:39.480] 或者是說CPU的RAM來回答你的問題

[17:39.480~17:41.000] 那如果說你今天問的東西呢

[17:41.000~17:41.720] 是一系列的

[17:41.720~17:42.880] 就像說你叫他去看一個論文

[17:42.880~17:44.840] 或是說你給他一個超級複雜的東西

[17:44.840~17:47.040] 那你也不期待他立刻給你答案嘛

[17:47.040~17:47.280] 對吧

[17:47.280~17:48.160] 就大家不會期待說

[17:48.160~17:50.280] 問這個東西你要在他媽2秒鐘內給我回答嘛

[17:50.280~17:51.160] 可是我問你說

[17:51.160~17:51.960] 今天天氣怎麼樣

[17:51.960~17:53.840] 那你要給我2秒鐘內的回答嗎

[17:53.840~17:54.600] 那因為所有的東西

[17:54.600~17:56.360] 最後面都是要回到使用者體驗嘛

[17:56.360~17:57.320] 所以我認為是這樣

[17:57.320~17:58.400] 就是因為在使用者這邊

[17:58.400~17:59.160] 大家有共識說

[17:59.160~18:01.080] 有些東西你要在1秒內給我回答

[18:01.080~18:02.160] 或者2秒內給我回答

[18:02.160~18:03.120] 還有些東西呢

[18:03.120~18:04.320] 我已經知道說我來問你

[18:04.320~18:05.000] 你就需要想嘛

[18:05.000~18:06.600] 我覺得說我叫你去分析某一家公司

[18:06.600~18:07.920] 我不會希望你1秒給我回答

[18:07.920~18:08.640] 你1秒給我回答

[18:08.640~18:10.800] 我還懷疑說你那個東西是不是沒有想清楚

[18:10.800~18:13.640] 然後外加其實現在大家對於AI的一個要求

[18:13.640~18:15.400] 已經是慢慢的提高

[18:15.400~18:17.640] 我認為說他要有一些個人化的設定嘛

[18:17.680~18:20.800] 然後或者是我過去給你的一些context

[18:20.800~18:21.960] 那你應該要記得

[18:21.960~18:23.160] 那這個就是現在的一個痛點

[18:23.160~18:25.640] 那這完全就可以透過他的ICMS去做處理

[18:25.640~18:27.640] 也就是由他的DPU呢

[18:27.640~18:30.560] 直接把這些GPU所需要的東西

[18:30.560~18:32.480] 他可能就先暫存到他的storage裡面

[18:32.480~18:33.360] 那如果需要的時候呢

[18:33.360~18:34.520] 他再直接從這個storage

[18:34.520~18:35.960] 然後拉出來到GPU這邊

[18:35.960~18:37.960] 他不需要再像過往可能是

[18:37.960~18:39.400] 透過這個storage要到線

[18:39.400~18:40.400] 然後再到CPU

[18:40.400~18:41.640] 然後再傳到GPU

[18:41.640~18:43.120] 就他也要花很多時間

[18:43.120~18:44.960] 他雖然是跑到隔壁庫房去

[18:44.960~18:46.200] 可是這個隔壁的庫房呢

[18:46.200~18:47.960] 在他的DPU的一個指引之下

[18:47.960~18:49.440] 其實那個速度也會蠻快的

[18:49.440~18:50.400] 那所以我認為說

[18:50.400~18:52.200] 這個會非常有效的去解決

[18:52.200~18:53.720] 大家現在面臨的一個痛點

[18:53.720~18:54.360] 包含像我自己

[18:54.360~18:55.920] 就是很多時候要去問一些

[18:55.920~18:56.800] 比較深入的問題

[18:56.800~18:58.280] 你會發現說AI就開始有一些

[18:58.280~18:59.280] 斷片的現象產生

[18:59.280~19:00.640] 或者是有些東西呢

[19:00.640~19:02.760] 你要重新的再叫他去理解一次

[19:02.760~19:03.840] 那就變得非常花時間

[19:03.840~19:05.200] 那這個其實對於資料中心

[19:05.200~19:06.880] 我覺得他們也會有非常大的一個誘因

[19:06.880~19:07.160] 為什麼

[19:07.160~19:09.680] 因為如果說每次我去問你一個問題

[19:09.680~19:12.720] 你都要從頭到尾的把我的一些需求啊

[19:12.720~19:13.960] 或者說我的一些特性什麼

[19:13.960~19:15.160] 都要再跑一次的話

[19:15.160~19:16.760] 那他其實要產生的

[19:16.760~19:18.640] Token的數量會是非常多的

[19:18.640~19:20.080] 他要去佔用的算力

[19:20.080~19:21.240] 或者說更現實的

[19:21.240~19:23.320] 就是他要去使用的電力是很多的

[19:23.320~19:24.600] 那如果說我可以開始

[19:24.600~19:26.120] 把一些東西記錄進去

[19:26.120~19:27.160] 你可以把它想像成說

[19:27.160~19:29.160] 就AI他自己有一個小本本

[19:29.160~19:31.240] 那他本來可能只有一張小便條紙

[19:31.240~19:33.360] 就是這些寸圖寸經的記憶體

[19:33.360~19:34.040] 那現在如果說

[19:34.040~19:35.440] 可以變成是一個小本本的話

[19:35.440~19:36.440] 他有一本字典

[19:36.440~19:37.640] 他已經知道說

[19:37.640~19:39.240] 你們可能會問哪些問題

[19:39.240~19:41.360] 使用者可能有哪些分類

[19:41.360~19:43.080] 那或者說那種非常刁鑽的使用者

[19:43.080~19:44.200] 他有哪一些前提的

[19:44.200~19:45.160] 假設或什麼的

[19:45.160~19:46.320] 他可以把它放在

[19:46.320~19:48.520] 他的這個DPU storage裡面的話呢

[19:48.520~19:49.800] 那就可以變成是說

[19:49.800~19:51.520] 這個未來AI自己有一個

[19:51.520~19:52.800] 甚至可以講說大本本

[19:52.800~19:54.080] 他已經知道說你在講什麼

[19:54.080~19:55.800] 他更加的準確

[19:55.800~19:56.760] 然後外加呢

[19:56.760~19:58.000] 因為在他的

[19:58.000~20:00.840] 這個GPU Direct Storage的一個架構之下

[20:00.840~20:02.120] 所以他的速度也不會比

[20:02.120~20:03.160] 就是大家可能本來想像說

[20:03.160~20:04.920] 一些資料如果說你放進去

[20:04.920~20:05.720] Storage Server的話

[20:05.720~20:06.760] 他來回要花很多時間

[20:06.760~20:07.960] 沒有 他還是會比較快

[20:07.960~20:10.520] 所以他算是蠻完美的去解決了

[20:10.520~20:12.360] 大家目前所看到一些痛點

[20:12.360~20:13.520] 當然因為我自己本身

[20:13.520~20:16.320] 並不是那種技術的內行人

[20:16.320~20:18.000] 就是我都只是大概像一些

[20:18.000~20:19.080] 聽眾朋友所提到的

[20:19.080~20:20.760] 你可能跟那個PM的水準

[20:20.760~20:22.240] 感覺還比我們家PM的水準高

[20:22.240~20:23.440] 就對我大概知道這些東西

[20:23.440~20:25.240] 可是我要去跟工程師比的話

[20:25.240~20:25.840] 差非常多

[20:25.840~20:26.440] 所以我講的東西

[20:26.440~20:27.520] 可能有些工程師會覺得說

[20:27.520~20:28.120] 不太可能吧

[20:28.120~20:28.920] 技術上什麼什麼的

[20:28.920~20:30.240] 因為我跟一些身邊的工程師討論

[20:30.240~20:30.880] 他們就這樣講

[20:30.880~20:32.160] 可是反正我們的工作

[20:32.160~20:33.840] 就是去處理這些題材

[20:33.840~20:34.960] 然後去做投資

[20:34.960~20:36.400] 所以在我非常直覺

[20:36.400~20:37.920] 西反射的一個角度看來

[20:37.920~20:39.000] 就是我也想知道說

[20:39.000~20:41.360] 所以你現在這個TPU的Storage Server

[20:41.360~20:42.680] 你要用到的SSD

[20:42.680~20:44.080] 或是裡面相關的Components

[20:44.080~20:46.000] 它會不會是需要NVIDIA Certify

[20:46.000~20:48.080] 就如果說它是需要NVIDIA認證的話

[20:48.080~20:50.840] 那它可能就會變成像是HBM這樣子

[20:50.840~20:51.840] 也就是說

[20:51.840~20:53.360] 不知道就HBM它可能本身是一個

[20:53.360~20:54.640] 假設我們其實想說

[20:54.640~20:55.680] 它就是一個存儲的東西

[20:55.680~20:56.880] 它本來是中性的

[20:56.880~20:58.320] 可是如果你今天通過我的驗證

[20:58.320~21:00.200] 你要達到我的一些水準跟要求

[21:00.200~21:01.600] 然後我才要把我的TPU

[21:01.600~21:02.840] 架在上面的話

[21:02.840~21:04.360] 那這些東西就會有

[21:04.360~21:05.640] 誰先誰後的問題

[21:05.640~21:07.200] 先進來先拿到Quad的人

[21:07.200~21:10.120] 那可能就是會有一波漲幅的機會

[21:10.120~21:11.320] 那誰是後進來的

[21:11.320~21:12.600] 可能那個漲幅就會少一點

[21:12.600~21:14.520] 類似說我們前面在看HBM3

[21:14.520~21:16.640] 3E的時候大家都還去比拼說

[21:16.640~21:17.680] 這一代到底是什麼

[21:17.680~21:18.760] 三星還是海力士

[21:18.760~21:19.560] 還是什麼最快

[21:19.560~21:21.240] 但我們最後發現說海力士是最強

[21:21.240~21:22.040] 可是我意思說

[21:22.040~21:23.560] 搞不好會有一樣的劇本產生

[21:23.560~21:25.360] 這個就是說如果它需要去Quad的話

[21:25.360~21:27.080] 那如果說它不需要去Quad

[21:27.080~21:28.160] 它只需要說

[21:28.160~21:29.360] 你可能不知道就是每個廠商

[21:29.360~21:31.440] 你們所做出來的Storage Server

[21:31.440~21:32.440] 你只需要去採購

[21:32.440~21:34.360] NVIDIA的DPU掛在上面的話

[21:34.360~21:35.400] 那你買硬體

[21:35.400~21:37.040] 我可能把軟體一起送你這樣

[21:37.040~21:38.760] 那我就可以去做整合的話

[21:38.760~21:40.320] 那就不會有這段機會

[21:40.320~21:42.560] 可是我覺得對於整體SSD的用量

[21:42.560~21:43.560] 不管是前者還是後者

[21:43.560~21:45.800] 前者的話就是有特定的SSD廠商

[21:45.800~21:47.480] 他們就會有很大的受惠

[21:47.480~21:49.760] 那後者的話就是說全體的SSD廠商

[21:49.760~21:50.960] 他們就從本來的

[21:50.960~21:52.960] 大家想像說這個東西只能夠冷儲存

[21:52.960~21:54.440] 然後現在變成說它不只是冷儲存

[21:54.440~21:55.880] 它還可以做到

[21:55.880~21:56.960] 可能就是那種

[21:56.960~21:58.280] 也不敢說它是熱儲存

[21:58.280~21:58.880] 因為不會說什麼

[21:58.880~22:00.400] 每個東西都要跑進去那裡面

[22:00.400~22:01.920] 可是就是半熱吧之類的

[22:01.920~22:02.960] 準熱儲存

[22:02.960~22:05.120] 那它也會有很多的機會產生

[22:05.120~22:06.920] 所以其實看到這個是覺得還蠻High的

[22:06.920~22:07.800] 就是說

[22:07.800~22:08.760] 老王真的非常厲害

[22:08.760~22:11.120] 從前面那個CPX給我們一個驚喜

[22:11.120~22:12.320] 就大家還在那邊開始講說

[22:12.360~22:14.000] Prefill這裡有一些問題

[22:14.000~22:14.520] 有些障礙

[22:14.520~22:16.000] 那個上下文太多要讀了

[22:16.000~22:17.360] 他直接搞一個CPX給你

[22:17.360~22:18.160] 然後接著

[22:18.160~22:19.120] 大家說D-code這邊

[22:19.120~22:20.000] 可能寫入也不夠快

[22:20.000~22:21.320] 然後他去搞了一個

[22:21.320~22:23.680] 跟Grok搞不好未來在SRAM的一個合作

[22:23.680~22:24.600] 我有解決你的問題

[22:24.600~22:25.760] 然後現在大家覺得

[22:25.760~22:26.560] context太多

[22:26.560~22:27.600] AI會有斷片或什麼

[22:27.600~22:28.000] 有的沒有的

[22:28.000~22:28.640] 要告訴你說

[22:28.640~22:30.280] 我現在有一個ICMS的解放

[22:30.280~22:32.480] 所以真的是非常猛

[22:32.480~22:33.520] 非常非常的厲害

[22:33.520~22:35.080] 那這時候你就可以去回顧一下

[22:35.080~22:36.320] 那時候很多人講說

[22:36.320~22:37.280] 一些ASIC廠商

[22:37.280~22:38.600] 包含像什麼TPU的出現

[22:38.600~22:39.880] 然後他就要把老王擊敗

[22:39.880~22:40.600] 你就會發現說

[22:40.640~22:42.080] 事情沒有這麼單純

[22:42.080~22:43.120] 真的沒有這麼單純

[22:43.120~22:44.600] 他們還是有很多的東西

[22:44.600~22:45.640] 鴨子滑水你不知道

[22:45.640~22:46.520] 然後真的是等到

[22:46.520~22:47.800] 大家遇到問題的時候

[22:47.800~22:49.080] 然後突然間斷一個解放出來

[22:49.080~22:49.640] 你知道那個解放

[22:49.640~22:50.680] 他絕對不是說什麼

[22:50.680~22:51.800] 他看到這個問題

[22:51.800~22:53.040] 然後兩天開會就可以出來

[22:53.040~22:54.480] 那一定就是鴨子滑水很久

[22:54.480~22:55.520] 甚至是很多人

[22:55.520~22:57.120] 包含像我自己也是現在才發現說

[22:57.120~22:58.600] 原來這個BlueField這麼屌

[22:58.600~22:59.960] 因為之前大家其實都沒有什麼

[22:59.960~23:01.920] 在討論這個BlueFieldTPU

[23:01.920~23:02.640] 就只是說

[23:02.640~23:03.960] 可能會寫到這件事情

[23:03.960~23:05.400] 可是沒有人去深度討論它

[23:05.400~23:07.440] 可是我覺得就是從現在開始

[23:07.440~23:09.560] BlueFieldDPU應該會是一個

[23:09.840~23:11.320] 蠻多人會討論的一個重點

[23:11.320~23:13.160] 就是他到底要怎麼樣去

[23:13.160~23:14.760] 支應這些Storage Server

[23:14.760~23:16.160] 然後去跟他的Compute

[23:16.160~23:17.960] 跟他的Switch去做一個結合

[23:17.960~23:19.040] 那怎麼樣去解決

[23:19.040~23:20.160] 現在大家的一個痛點

[23:20.160~23:20.960] AI的斷片

[23:20.960~23:22.360] 或是說超長的上下文

[23:22.360~23:24.160] 所耗損的一些算力

[23:24.160~23:26.080] 那算力蠻多是白花的

[23:26.080~23:27.360] 這些東西如果可以解決的話

[23:27.360~23:29.480] 你就想站在資料中心的角度是

[23:29.480~23:30.240] 我可能因為這樣子

[23:30.240~23:31.440] 我又要省下更多錢了

[23:31.440~23:32.520] 所以老王真的沒有騙你

[23:32.520~23:33.560] 就是買越多省越多

[23:33.560~23:34.480] 然後買越新的東西

[23:34.480~23:36.520] 你可能還會意外的又再省更多

[23:36.520~23:37.680] 所以雖然聽起來

[23:37.680~23:38.920] 在這一集我可能分享的東西

[23:38.920~23:41.120] 有點像說我是老王的一個業務

[23:41.120~23:42.240] 在幫他做宣傳

[23:42.240~23:43.680] 可是就真的覺得蠻厲害的

[23:43.680~23:45.360] 就是你會突然間那種

[23:45.360~23:46.520] 靈光乍現的感覺

[23:46.520~23:47.560] 就是當他推出這個東西

[23:47.560~23:49.080] 然後一開始大家可能就是看過去了

[23:49.080~23:50.360] OK好他又有新東西

[23:50.360~23:52.080] 可是突然一想就發現說

[23:52.080~23:53.160] 哇靠這東西厲害

[23:53.160~23:54.360] 原來你們早就已經準備好

[23:54.360~23:55.560] 只是你們現在才把它端出來

[23:55.560~23:57.320] 大概是這樣的一個情形

[23:57.320~23:58.760] 所以稍微的跟大家分享一下

[23:58.760~23:59.560] 就是我認為說

[23:59.560~24:01.240] 當然可能在過去的半年

[24:01.240~24:02.600] 我們已經花很多時間在講什麼

[24:02.600~24:05.320] 記憶體Memory Server Storage什麼的

[24:05.320~24:07.720] 可是現在又一直有新的東西出來了

[24:07.720~24:08.360] 所以我不知道

[24:08.360~24:09.280] 這一波記憶體狂潮

[24:09.280~24:10.440] 我自己也覺得非常扯

[24:10.440~24:12.080] 那只是在我自己的角度看來

[24:12.080~24:12.840] 就是這些東西

[24:12.840~24:15.000] 雖然也是跟記憶體是高度相關的

[24:15.000~24:15.840] 可是其實

[24:15.840~24:17.160] 假設我現在要去重新介入的話

[24:17.160~24:19.040] 我就不會把它視為是某種

[24:19.040~24:20.800] 就是可能大家所看到的NAND

[24:20.800~24:22.680] 或是DRAM的漲價題材來看待

[24:22.680~24:23.880] 而是把它視為說

[24:23.880~24:27.160] 就是可能KVcash下放的一個新的題材

[24:27.160~24:29.000] 那像我自己好在有一個特性

[24:29.000~24:30.000] 就是我不太怕高

[24:30.000~24:31.560] 有些可能看起來很高的東西

[24:31.560~24:32.720] 那過去是漲A題材

[24:32.720~24:33.720] 那現在可能是B題材

[24:33.720~24:34.600] 那是不一樣的東西

[24:34.600~24:36.360] 所以可能還是會持續的去往

[24:36.360~24:37.960] 這個方向去做研究

[24:37.960~24:39.240] 那接著找一些機會的話

[24:39.240~24:40.760] 也會適時的去介入一下

[24:40.760~24:42.480] 所以大概的跟大家分享一下

[24:42.480~24:45.000] 就是因為我們從一個

[24:45.000~24:45.360] 怎麼講

[24:45.360~24:47.880] 就大家去參訪所拍到的照片裡面

[24:47.880~24:49.600] 然後本來大家只是很high說

[24:49.600~24:50.760] 那個上面怎麼會有

[24:50.760~24:51.760] 全聯的control的

[24:51.760~24:52.640] 然後到去挖

[24:52.640~24:53.760] 然後知道說這個東西

[24:53.760~24:55.400] 它不是一般的TLC

[24:55.400~24:57.080] 它是pseudo的SLC

[24:57.080~24:57.640] 然後去理解

[24:57.640~24:59.280] 為什麼它要用pseudo的SLC

[24:59.280~25:01.200] 為什麼它要犧牲三分之二的容量

[25:01.200~25:02.600] 因為它要快速存取

[25:02.600~25:04.560] 那當你了解到它要快速存取

[25:04.560~25:05.480] 它要有耐用性之後

[25:05.480~25:06.240] 你就可以理解到

[25:06.240~25:08.880] 那它那個ICMS可能要搞的東西

[25:08.880~25:10.040] 跟這個是有關聯的

[25:10.040~25:12.480] 所以就是一切就這樣子把它連在一起

[25:12.480~25:14.280] 那當然可能在裡面會有一些

[25:14.280~25:15.280] 錯誤的東西或什麼

[25:15.280~25:16.480] 但我覺得市場就是這樣

[25:16.480~25:18.560] 不然說像我們前幾集在

[25:18.560~25:20.800] 跟大家去做一個所謂的大膽的猜想

[25:20.800~25:22.480] 去猜想說接下來大家會去找那些

[25:22.480~25:24.280] 可以打破記憶體牆的東西

[25:24.280~25:25.280] 然後最後面就發生了

[25:25.280~25:27.720] 因為其實我們雖然可能在這種

[25:27.720~25:29.040] 非常工程方面的東西

[25:29.040~25:30.840] 那絕對是會輸那些工程師

[25:30.840~25:31.760] 那是他們的專業

[25:31.760~25:33.040] 可是在這種聯想方面

[25:33.040~25:35.840] 可能還是有一點修練的

[25:35.840~25:36.640] 所以稍微再跟大家分享

[25:36.640~25:38.320] 它自己的一個簡單的猜想

[25:38.320~25:39.760] 那也希望對大家有所幫助

「以下為個人心得，僅供參考」 

01:28 閒聊 #跨年 #手遊 #大盤

-大盤漲幅誇張，YTD要贏大盤時在有難度

-明顯發現散戶又都重新回到市場，市況偏熱

04:47 近期市場話題 #銅 #OCS

-過往市場共識超高的標的今天都出現重挫

-很多基本面都沒問題，短線雜訊要辨明

-每次下跌總有鬼故事，長期持有並非易事

-先前強勢的Google OCS類股因小作文重摔

-但市場發現未來OCS交換器反而會越用越多

-或許是資金轉換階段，小作文特別容易引發動盪

09:29 #NVDA #ICMS #群聯

-NV宣布Vera Rubin已經是Full Production

-但後段上線應該要等到26年中以後才能看到

-摩爾定律已不適用，但仍有其他辦法提升效能

-Inference Context Memory Storage (ICMS) Platform

-Storage Server將由BlueField DPU晶片驅動

-CES展出的板子上意外發現群聯的控制晶片

-證明群聯的Controller已成功打進NV

-而上面的雖是TLC，但用它模仿SLC的效果

-雖然容量銳減1/3，但使用壽命大幅延長

-其主要用意是想將KV cache下放到SSD

-因進入agentic AI後必須要記住的資訊變得更多

-讓AI不再因為上下文太長而導致斷片狀況

-對DataCenter也是好事，算力/電力可以節省

-若其中的SSD需NV認證，可能有機會飆漲

-過去鮮少討論的BlueField也將成為重點

-這波記憶體不只是漲價題材，也有新的題材驅動

25:40 QA時間

包賠的Go很多==