今天,要給大家帶到一個非常深刻的觀點。
先來帶到我最喜歡的多層次思考(奠基於霍華馬克斯的"第二層思維"論)
第一層(這是大部分散戶都看的到的):NVDA、AMD等各大晶片商的新產品都在堆算力第二層(這是少數市場分析師開始看到的):因為單顆AI加速器晶片(詳15期)動輒以萬美元計價,所以晶片折舊問題(使用年限平均為3~5年)在未來會導致AI軍備競賽完蛋、泡沫徹底崩毀
今天,我們來談談Mark看到的第三層思維到底是什麼?
我先直接用業界的真實狀況來破除市場迷思:單位(通膨校正後)美元能買到的算力,不僅是在增加,而且是在「指數級」增加。
想要第一時間獲得市場上的最新資訊及分析嗎?
歡迎點擊連結訂閱【馬克觀點MKP】電子報,在即時更新資訊的同時,獲得最深入的分析~
【晶片越來越貴,但算力越來越便宜】
真的假的?Mark又在唬?數據來出來看看啊?
別急,我還真的有數據
根據 Epoch AI (註一)等研究機構的長期追蹤,單位美元能買到的 GPU 算力每年大約提升 30%。
若將時間拉長,再搭配摩爾定律Moore's Law、萊特定律Wright's Law(註二)我們會看到極其驚人的成長倍數。在半導體產業,這表現出的是「同樣的錢,能換到更多算力」。
並且在實際的晶片架構設計(front-end的IC design)及先進封裝(back-end的IC製造)帶來的整合優勢下,效能在技術節點gate-length(見24期)不往前推的前提下一樣突飛猛進;這也讓上述的「指數型」增長說法得以實際成立。(更"深"的請見註三)
這讓在 AI 推論或特定僅需FP4精度(FP浮點概念詳45期)的訓練任務下,B200的表現可能是 H100的5~30倍。但通膨校正後,B200的售價只比H100貴1.2~1.5倍(it's crazy, hum?)
有意識到什麼嗎?
這代表單位美元買到的「模型訓練效率(等效算力)」大幅提升!換句話說就是雖然晶片單價看起來越來越貴,但其實算力卻"反直覺的越來越便宜"!
這正是為什麼各大雲端/AI廠商,儘管舊卡還沒折舊完,仍瘋狂搶購新卡的原因。因為如果排不到單了更慘,代表你必須用落後對手的單位成本執行訓練or推論。套一句黃仁勳親口說過的:你會破產。(註四)
你可能會想說"那這樣舊的都還沒淘汰就買新的,會不會太浪費?"
其實不會。
目前在業界,主流做法便是Value Cascad(階梯式串聯)
簡單來說前一代的晶片硬體會進入「價值階梯」的向下流動:
第1-2年: 用於訓練最頂尖的基礎模型(需要最高頻寬與互連)(如目前正開發的AGI,或各項將用於實體AI的模型)
第3-4年: 轉向中小型模型的微調(Fine-tuning)或高價值的即時推論/學術研究(例如各大AI商推出的付費版服務)
第5-6年: 用於一般的批量處理(Batch Inference)(給只想免費用AI的人,所以我們才會覺得"哇,原來付費版本的能力差這麼多")
【價值/價格的變動始終來自科技進步】
以上講了這麼多,對大家來說可能有點不著邊際、難以實際有"體感"。
不過老讀者都知道,Mark最擅長的,便是應用科普能力,再結合大眾生活經驗,讓大家快速了解科技(這也是MKP宣揚的價值,我們期望不管是不是科技人,都能透過本報內容,打破知識藩籬,讓科技股投資更如魚得水)。
這裡便請大家回過頭想想;當初行動電話(大哥大)1980年代剛問世時,一支多少?

Motorola DynaTAC 8000X
3995美元!這在今天都稱不上便宜,而且跟一瓶1000CC的大水一樣重(實際為1.1kg)、充電10小時只能用半小時。
換算為今日價格大約為一萬四美元左右!
今天最新的iPhone不過一千多美元,最頂規的也不過兩千多美元(聲明:我沒有接蘋果業配)

這就應證了開頭講的那句話;我們花的每一毛錢買到的其實更多、也更好!
算個更驚人的數據給大家看:
Motorola DynaTAC 8000X算力估算頂多 0.000001 TOPS (註五),且無法執行任何浮點(FP)運算;而iPhone 17 Pro 搭載的A19 Pro晶片預估至少有50 TOPS。
這代表...
你在今天相當於能用 1/10 的價格,買到57億倍的效能!
如果交叉除上先前的價格,代表今天的一美元能買到相當於當年570億倍的算力。
你現在手上的iPhone 17,如果穿越回 1983 年(民國72年,很多人都出生了),其價值不僅僅是連城,而是可以交換到整個五角大廈的預算,因為它一台的算力就超過當時全美國電腦算力的總和。
而到這裡,我要大家想想,「這中間經歷了甚麼?」
2000泡沫、2008又來一次金融風暴、2022又一次大型熊市
那科技有停止進步嗎?答案很顯然是沒有
所以,雖然投資人擔心晶片折舊會導致公司資產減損,不過從技術經濟學的角度看,這種表面上的「價值貶損」其實是「技術進步」的另一面。
無論如何,縱使宏觀面上"種種的生產力提升/技術進步"都會讓人類經濟越來越好,從而讓長遠而言的市場總值呈現指數型向上增長。
但這並不代表股市就沒有漲跌,更準確的說不能代表「大多數人害怕的股災不會到來」(講白一點,股災就是會來啦!什麼時候而已)
因為那根本是兩碼子事,再精準一點,股災的火源通常始於人性情緒
是故Mark才會在以前與現在不斷提及「股災發生與否」與「科技進步與否」,在某種不可言喻的狀態下可以視為互相獨立
這聽起來很玄學,也聽起來令人感到恐懼(因為源自於對未來的"不可知")
但不要害怕;我已經告訴了你兩個足以賺取百千倍財富的密碼。(看的懂底線標註的就懂)
為什麼大家還是會「擔心」折舊問題?這其實是 「會計帳面」與「實際產出」 的落差:
- 帳面折舊:像微軟或 Google 這樣的巨頭,通常把 GPU 的折舊年限設為 5 到 6 年。
- 實際產出:現實中,由於新產品的出現,舊款晶片在處理最尖端模型時,其邊際成本(電力、機櫃空間與效率的比值)會迅速變高;也因為市面上出現了單位算力更便宜、更快、更省電的新產品,導致舊品在「算力租賃市場」上的價格崩跌,即所謂"技術性過時"。
投資人的恐懼主要來自於:他們擔心大型科技股為了維持競爭力,必須陷入一場「永遠無法停止的資本支出競賽」。
但我們要知道的是:單位美元買到的算力確實在增加,而且是指數型的。但會計折舊算法是線性的,只要公司的營收確實也有呈複利成長,那就能謂之"可持續"。
反之像ORCL那種就不知道在幹嘛(所以拜託不要再問我能不能買它,好多人私訊但我實在不想對這家過時的公司置評;如果你真的很想買就買吧,反正我自己是不會買的)
第24期電子報傳送門
第45期電子報傳送門
〖註一〗
這是一家成立於 2022 年的非營利跨領域研究機構,總部位於舊金山;該機構專注於調查人工智慧(AI)的發展軌跡、驅動因素及其對全球經濟與社會的影響。
〖註二〗
摩爾定律(Moore's Law): 這在半導體業算基本常識,意指單位面積電晶體密度每 18個月翻倍。
萊特定律(Wright's Law / 經驗曲線): 著重於成本控制。該定律指出,累積產量每翻一倍,成本就會下降一個固定比例。
〖註三〗
"晶片架構設計"指的是IC design的「微架構」階段(詳細說明請參閱講解ARM名為"ARMstrong_ 我的一小步,卻是人類一大步"那期);基本上以輝達為例,他們在那個階段就是把原本8位浮點運算(FP8)(浮點概念詳45期)改成4位(FP4),這個動作基本讓運算效率提升一倍!而其理由也很簡單:AI模型訓練(training)需要極其精準,但AI推論(inference,就是你問AI一個問題,其回答你的這個過程就叫推論)的浮點位元只要"堪用"即可!
這是前段,再搭配後段廠台積電/日月光的先進封裝[小晶片技術可參閱56期、CoWoS/BSPDN/HybridBondong等深度拆解加製程說明詳見"[MKP年繳會員限定第5期]:關於台積電的質性面,以及媒體不會報導的內幕(同場加映特斯拉自建晶圓廠議題獨家分析)"],基本上就是前後段的公司強強聯手、算力爆棚。
(這些都還沒算上"晶圓製造"時採用製程節點的提升,如果用上,算力等效複合起來會再是指數等級的提升;所以會說"摩爾定律"已死的都是不懂半導體或根本不在業界的,用哈利波特術語來講就叫麻瓜,別聽他們的)
〖註四〗他的邏輯是這樣的
「你覺得買我的 B200 很貴?不,如果你為了省錢去買舊款的 H100,你反而會破產。」
為什麼? 因為要訓練同一個 GPT-5 等級的模型:
方案 A(舊晶片): 你需要買 10,000 張 H100,還要蓋 10 座 資料中心來放它們,繳 10 倍的電費。
方案 B(新貴晶片): 你只需要買 1,000 張 B200,只要 1 座 資料中心,繳 1/5 的電費。
雖然 B200 單價貴,但省下的機房空間、電力、冷卻設備和連線光纖的錢,遠遠超過晶片本身的價差。這就是我說的「反直覺的越來越便宜」。
這也是我說為何資金有限情況下你應該投資"真正具主動成長能力的核心企業",因為更優的"算力/功耗"是必須,但"電力、冷卻設備和連線光纖的錢"是人人喊打的成本,目前的增長著實是因為AI的基礎需求實在太大而衍生的"被動結構性成長",但哪一天一但進入高原期或技術性熊市你就知道。
主動成長(核心企業):舉例,NVIDIA 推出的 B200 不僅是被動滿足需求,它還創造了新需求、新商模。這種公司擁有定價權(Pricing Power),因為它決定了行業(甚至人類科技)的天花板。
被動結構性成長(基建/設備):電力公司或冷卻設備廠的業績好,純粹是因為「AI晶片很耗能&運作產生太多廢熱」。它們的命運是綁在別人(或大環境)手上的。並且很久以前上課就提過"不要投資公用事業(如電力)"(這是GoodWhale的前身VI上課時就講過的),原因就是實際上各國政府有權利做政策干預,萬一「電價凍漲」,那其中的高度政策風險不是你我這種散戶能掌控的!並且傳統上公用事業通常為週期性工業類股,成長慢,賺的是辛苦錢,一但民生經濟"有需要",它會第一個被政府"適當調整"(台灣人懂得都懂)。
一旦 NVIDIA(或任何IC公司)發明了更不熱的架構(雖然目前很難),或者改用光傳輸減少熱損耗,這些周邊廠商的護城河就會瞬間減損非常多。這類型的廠商,不是說你不能投資,而是你一旦投資了就得花心力研究何時退場。(至少在其重新變回週期性產業前退場)
我們來做個推演,假設微軟決定明年砍 20% 的資料中心預算。
會先砍誰?一定先砍基建,停止蓋新的機房(電力、冷卻、傳統連線的硬體類股勢必受創最重)
但核心會被保留,因為雖然預算少了,但為了保持競爭力,微軟還是得買最新一代的AI加速器(理由同本文上半部);因為新晶片算力/功耗比(Perf/Watt)更好,大環境不好時反而能幫它省電費。
在景氣下行時,核心技術通常因為具有「通縮屬性」(能幫客戶省錢),所以"相對"抗跌,或最差不致下市;而基建設備純粹是「擴張屬性」(只有在餅變大時才有用),所以會摔得更重,有些新創此時甚至會跌到下市。
〖註五〗TOPS
是Trillions of Operations Per Second的縮寫,中文為「每秒兆次運算」,是一種用來衡量AI硬體運算能力的單位,1 TOPS代表處理器每秒可進行1兆次運作。


















