想要第一時間獲得市場上的最新資訊及分析嗎?
歡迎點擊下方連結訂閱【馬克觀點MKP】電子報,在即時更新資訊的同時,獲得最深入的分析~
AMD第二季財報部分數據(如毛利率、營運收入、淨收入、EPS等)的下調,是因為部分產品出口中國市場的不確定性導致其先暫時不予認列,請注意是「暫時」,意即如果恢復,那恢復後的下一個季度可能就會帶給市場突然「暴增」的感覺,NVDA亦同。
展望下一季,在「不算入中國市場」的前提下,營收(指公司總收入)仍預計成長27~32%、營業收入(指公司主要的本業)預計增長35%,目前川普也同意NVDA與AMD,在對中營收上繳15%予美國政府前提下(原本是20%,談判後降低5%)同意對中銷售低配版晶片,雖然不是100%,但再如何都比完全不能銷售好,因此今年第四季到2026第一季,AMD的營收仍有很大機率增長優於目前。
質性方面,考量其最新的MI355晶片在不考慮輝達CUDA架構軟體生態圈的前提下綜效已趨近輝達B200及GB200系列,再加上AMD較實惠的價格,AMD營收因之衝高也不無可能;並且其嵌入式(embedded)晶片(如應用在特斯拉影音系統上的Ryzen系列及其它邊緣運算晶片架構如FPGA,參閱MKP第14期)銷售曲線已flat(用技術分析的說法比喻就是已形成底部支撐),之後銷量反彈機率非常高。
預計到2030年,AI伺服器架構將轉向帶有人工智慧加速器的CPU
這代表設定將從傳統的「CPU+GPU」轉向「CPU+AI加速器」
CPU(中央處理器)與GPU(圖形處理器)相信大家比較明白,今天就來重點向大家科普,什麼是「AI加速器」?
【什麼是AI加速器?】
近年人工智慧飛速發展,無論是ChatGPT的語言理解,還是自駕車的即時判斷,背後都需要龐大的計算能力。但傳統的中央處理器(CPU)雖然功能全面,卻不擅長AI常見的大量矩陣與向量運算(註一)。為了讓AI運算更快、更省電,「AI加速器」便應運而生。
AI加速器並不是單指某一種特定產品,而是只要符合「專門為人工智慧運算優化」的定義便屬之,此類的硬體晶片設計重點在於平行處理能力,而深度學習的訓練與推理,通常需要同時進行數百萬甚至數十億次的計算,這正是AI加速器的強項:它們透過專用的運算單元,能以更高的效率完成相同工作,並大幅降低功耗。
主流的AI加速器除了大家常聽到的GPU(圖形處理器),還包括其他種類如TPU(ex.Google的張量處理器,註二)、NPU(神經網路處理器)、FPGA(可程式邏輯閘陣列,詳細如MKP第14期)以及博通的主力產品ASIC(專用晶片)。
- 傳統GPU因為擁有大量平行運算核心,成為AI初期訓練的主力
- TPU則是Google為AI設計的專用晶片
- NPU常見於智慧手機,用於影像處理與語音識別,如蘋果iPhine的A系列晶片即採用類神經網絡的IC設計
- FPGA與ASIC則多用於對效能或功耗有特殊要求的領域,尤其是邊緣運算,如工業檢測、醫療影像分析、自駕車、機器人、物聯網產品如智慧家電、路燈等,讓AI加速器的重要性不僅只在雲端資料中心,而是已深入我們的生活周遭
AI加速器讓AI從「需要超級電腦」的專業領域,逐步走進日常生活。
可以說,沒有AI加速器,就不會有今天AI的高速進化。
而AMD的Instinct MI300X、MI350和MI400系列產品的目標,即是為AI加速器目的所打造!!

Instinct MI300X
第十四期文章傳送門
〖註一〗矩陣與向量運算
可以想像成同時處理很多張超大的Excel表格。每一格都要做加法、乘法,還要和其他表格互相比對。CPU像是一個人一格一格算,速度很慢;AI加速器就像一群人分工合作,一次處理成千上萬格,所以能更快完成AI所需的複雜計算。
〖註二〗Google的張量處理器(TPU)
TPU(張量處理器)是Google為人工智慧打造的專用晶片,「張量」指AI訓練中大量的數據矩陣。TPU能極高效率處理這些運算,比傳統CPU或GPU更快、更省電。
與 ASIC(專用晶片)相比,TPU雖然也是為特定任務(AI優化),但Google的設計使其保有一定彈性,可支援多種AI深度學習模型;ASIC則針對單一任務極致優化,效能可更高但功能固定。
目前TPU這個名稱與架構為Google專利,屬於自家研發並部署在Google Cloud的AI加速器,其他公司不能直接套用這個設計,否則便會侵權,雖說也有”類似”的設計,但差別在於Google TPU更側重雲端、深度學習(deep learning),而其他廠商則偏向邊緣運算或特定應用。
TPU晶片本身不開放零售,屬於內部知識產權,主要部署於Google雲端,並且與Google自有軟體生態鎖定,為客戶企業與科研提供AI加速服務,所以即便別人在避開專利核心的情況下做出類似硬體,也不一定能匹配其完整效能,因為其軟硬體結合再加上雲端部署策略,使它成為Google的獨家科技護城河。