AI時代的關鍵硬體:AI加速器 #15

更新於 發佈於 閱讀時間約 6 分鐘
想要第一時間獲得市場上的最新資訊及分析嗎?
歡迎點擊下方連結訂閱【馬克觀點MKP】電子報,在即時更新資訊的同時,獲得最深入的分析~

AMD第二季財報部分數據(如毛利率、營運收入、淨收入、EPS等)的下調,是因為部分產品出口中國市場的不確定性導致其先暫時不予認列,請注意是「暫時」,意即如果恢復,那恢復後的下一個季度可能就會帶給市場突然「暴增」的感覺,NVDA亦同。

展望下一季,在「不算入中國市場」的前提下,營收(指公司總收入)仍預計成長27~32%、營業收入(指公司主要的本業)預計增長35%,目前川普也同意NVDA與AMD,在對中營收上繳15%予美國政府前提下(原本是20%,談判後降低5%)同意對中銷售低配版晶片,雖然不是100%,但再如何都比完全不能銷售好,因此今年第四季到2026第一季,AMD的營收仍有很大機率增長優於目前。

質性方面,考量其最新的MI355晶片在不考慮輝達CUDA架構軟體生態圈的前提下綜效已趨近輝達B200及GB200系列,再加上AMD較實惠的價格,AMD營收因之衝高也不無可能;並且其嵌入式(embedded)晶片(如應用在特斯拉影音系統上的Ryzen系列及其它邊緣運算晶片架構如FPGA,參閱MKP第14期)銷售曲線已flat(用技術分析的說法比喻就是已形成底部支撐),之後銷量反彈機率非常高。

預計到2030年,AI伺服器架構將轉向帶有人工智慧加速器的CPU

這代表設定將從傳統的「CPU+GPU」轉向「CPU+AI加速器」

CPU(中央處理器)與GPU(圖形處理器)相信大家比較明白,今天就來重點向大家科普,什麼是「AI加速器」?

【什麼是AI加速器?】

近年人工智慧飛速發展,無論是ChatGPT的語言理解,還是自駕車的即時判斷,背後都需要龐大的計算能力。但傳統的中央處理器(CPU)雖然功能全面,卻不擅長AI常見的大量矩陣與向量運算(註一)。為了讓AI運算更快、更省電,「AI加速器」便應運而生。

AI加速器並不是單指某一種特定產品,而是只要符合「專門為人工智慧運算優化」的定義便屬之,此類的硬體晶片設計重點在於平行處理能力,而深度學習的訓練與推理,通常需要同時進行數百萬甚至數十億次的計算,這正是AI加速器的強項:它們透過專用的運算單元,能以更高的效率完成相同工作,並大幅降低功耗。

主流的AI加速器除了大家常聽到的GPU(圖形處理器),還包括其他種類如TPU(ex.Google的張量處理器,註二)、NPU(神經網路處理器)、FPGA(可程式邏輯閘陣列,詳細如MKP第14期)以及博通的主力產品ASIC(專用晶片)。

  1. 傳統GPU因為擁有大量平行運算核心,成為AI初期訓練的主力
  2. TPU則是Google為AI設計的專用晶片
  3. NPU常見於智慧手機,用於影像處理與語音識別,如蘋果iPhine的A系列晶片即採用類神經網絡的IC設計
  4. FPGA與ASIC則多用於對效能或功耗有特殊要求的領域,尤其是邊緣運算,如工業檢測、醫療影像分析、自駕車、機器人、物聯網產品如智慧家電、路燈等,讓AI加速器的重要性不僅只在雲端資料中心,而是已深入我們的生活周遭

AI加速器讓AI從「需要超級電腦」的專業領域,逐步走進日常生活。

可以說,沒有AI加速器,就不會有今天AI的高速進化。

而AMD的Instinct MI300X、MI350和MI400系列產品的目標,即是為AI加速器目的所打造!!

Instinct MI300X

Instinct MI300X


第十四期文章傳送門
〖註一〗矩陣與向量運算
可以想像成同時處理很多張超大的Excel表格。每一格都要做加法、乘法,還要和其他表格互相比對。CPU像是一個人一格一格算,速度很慢;AI加速器就像一群人分工合作,一次處理成千上萬格,所以能更快完成AI所需的複雜計算。
〖註二〗Google的張量處理器(TPU)
TPU(張量處理器)是Google為人工智慧打造的專用晶片,「張量」指AI訓練中大量的數據矩陣。TPU能極高效率處理這些運算,比傳統CPU或GPU更快、更省電。
與 ASIC(專用晶片)相比,TPU雖然也是為特定任務(AI優化),但Google的設計使其保有一定彈性,可支援多種AI深度學習模型;ASIC則針對單一任務極致優化,效能可更高但功能固定。
目前TPU這個名稱與架構為Google專利,屬於自家研發並部署在Google Cloud的AI加速器,其他公司不能直接套用這個設計,否則便會侵權,雖說也有”類似”的設計,但差別在於Google TPU更側重雲端、深度學習(deep learning),而其他廠商則偏向邊緣運算或特定應用。
TPU晶片本身不開放零售,屬於內部知識產權,主要部署於Google雲端,並且與Google自有軟體生態鎖定,為客戶企業與科研提供AI加速服務,所以即便別人在避開專利核心的情況下做出類似硬體,也不一定能匹配其完整效能,因為其軟硬體結合再加上雲端部署策略,使它成為Google的獨家科技護城河。
留言
avatar-img
留言分享你的想法!
avatar-img
馬克觀點Mark’s point——超越財報、深入質化基本面
2會員
23內容數
用專業、通俗的方式,講解大眾與分析師常忽略的質化「硬底子知識」,以幫助判斷企業的真正競爭力。 我們著重於「觀點深入」、「拆解核心」、「科普但專業」,致力於幫助大家瞭解"你到底買了甚麼" 同時也不定期發送重要的投資資訊、產業趨勢、科技方向,以及價值投資觀念解析。
2025/08/18
想要第一時間獲得市場上最新的AI晶片趨勢分析嗎?訂閱【馬克觀點MKP】電子報,深入瞭解AMD和輝達在AI推理市場的競爭策略、產品差異和市場潛力。我們將分析AMD在成本優勢下的市場策略,以及輝達如何鞏固其在推理市場的霸主地位。別錯過這波AI晶片市場的商機!
Thumbnail
2025/08/18
想要第一時間獲得市場上最新的AI晶片趨勢分析嗎?訂閱【馬克觀點MKP】電子報,深入瞭解AMD和輝達在AI推理市場的競爭策略、產品差異和市場潛力。我們將分析AMD在成本優勢下的市場策略,以及輝達如何鞏固其在推理市場的霸主地位。別錯過這波AI晶片市場的商機!
Thumbnail
2025/08/18
META近期財報亮眼,AI投資擴大,元宇宙部門虧損減緩,Ray-Ban Meta智慧眼鏡銷量貢獻良多。AI演算法提升用戶使用度和盈利水平,精準廣告投放能力提升,股價具備長期成長潛力。
Thumbnail
2025/08/18
META近期財報亮眼,AI投資擴大,元宇宙部門虧損減緩,Ray-Ban Meta智慧眼鏡銷量貢獻良多。AI演算法提升用戶使用度和盈利水平,精準廣告投放能力提升,股價具備長期成長潛力。
Thumbnail
2025/08/13
本文探討經典電腦AI與量子電腦的關係,並比較IBM與Google在量子電腦領域的發展策略與財務風險。文章指出量子電腦不會取代傳統電腦,而是互補關係,並分析兩家公司在技術、商業模式和財務穩健性上的差異。最後,文章也提及量子電腦新創公司的潛力與風險,建議投資人應審慎評估。
Thumbnail
2025/08/13
本文探討經典電腦AI與量子電腦的關係,並比較IBM與Google在量子電腦領域的發展策略與財務風險。文章指出量子電腦不會取代傳統電腦,而是互補關係,並分析兩家公司在技術、商業模式和財務穩健性上的差異。最後,文章也提及量子電腦新創公司的潛力與風險,建議投資人應審慎評估。
Thumbnail
看更多
你可能也想看
Thumbnail
2025 vocus 推出最受矚目的活動之一——《開箱你的美好生活》,我們跟著創作者一起「開箱」各種故事、景點、餐廳、超值好物⋯⋯甚至那些讓人會心一笑的生活小廢物;這次活動不僅送出了許多獎勵,也反映了「內容有價」——創作不只是分享、紀錄,也能用各種不同形式變現、帶來實際收入。
Thumbnail
2025 vocus 推出最受矚目的活動之一——《開箱你的美好生活》,我們跟著創作者一起「開箱」各種故事、景點、餐廳、超值好物⋯⋯甚至那些讓人會心一笑的生活小廢物;這次活動不僅送出了許多獎勵,也反映了「內容有價」——創作不只是分享、紀錄,也能用各種不同形式變現、帶來實際收入。
Thumbnail
嗨!歡迎來到 vocus vocus 方格子是台灣最大的內容創作與知識變現平台,並且計畫持續拓展東南亞等等國際市場。我們致力於打造讓創作者能夠自由發表、累積影響力並獲得實質收益的創作生態圈!「創作至上」是我們的核心價值,我們致力於透過平台功能與服務,賦予創作者更多的可能。 vocus 平台匯聚了
Thumbnail
嗨!歡迎來到 vocus vocus 方格子是台灣最大的內容創作與知識變現平台,並且計畫持續拓展東南亞等等國際市場。我們致力於打造讓創作者能夠自由發表、累積影響力並獲得實質收益的創作生態圈!「創作至上」是我們的核心價值,我們致力於透過平台功能與服務,賦予創作者更多的可能。 vocus 平台匯聚了
Thumbnail
AMD財報與上調財測,以AI、PC與伺服器晶片帶動收入表現落後補漲、財測維持增速,微軟整體部門包括雲端與AI業務保持正增長,與Google表現差距不大,整體AI題材已失去先行者優勢,競爭者後來居上,三星受益於AI對記憶體需求激勵財報表現。昨日市場維持相對強勢、產業分歧,關注財報後是否出現產業輪動。
Thumbnail
AMD財報與上調財測,以AI、PC與伺服器晶片帶動收入表現落後補漲、財測維持增速,微軟整體部門包括雲端與AI業務保持正增長,與Google表現差距不大,整體AI題材已失去先行者優勢,競爭者後來居上,三星受益於AI對記憶體需求激勵財報表現。昨日市場維持相對強勢、產業分歧,關注財報後是否出現產業輪動。
Thumbnail
隨著近年來的AI浪潮,讓大家普遍對於AI後續的發展充滿了期待。今年所舉辦的台北電腦展 (Computex),讓這樣的相關的討論更加熱烈。有在投資的讀者們或多或少都會看到相關產業鏈的梳理,像是AI伺服器需要什麼奈米的晶圓製程、需要那些先進封裝測試技術、需要什麼樣的水冷技術、哪些的OEM廠 (O
Thumbnail
隨著近年來的AI浪潮,讓大家普遍對於AI後續的發展充滿了期待。今年所舉辦的台北電腦展 (Computex),讓這樣的相關的討論更加熱烈。有在投資的讀者們或多或少都會看到相關產業鏈的梳理,像是AI伺服器需要什麼奈米的晶圓製程、需要那些先進封裝測試技術、需要什麼樣的水冷技術、哪些的OEM廠 (O
Thumbnail
本文章介紹了什麼是AI PC,以及AI PC的好處和應用。此外,文章也提到了AI PC的硬體要求和相關產品。最後,結論部分總結了AI PC市場的競爭現狀和投資機會。
Thumbnail
本文章介紹了什麼是AI PC,以及AI PC的好處和應用。此外,文章也提到了AI PC的硬體要求和相關產品。最後,結論部分總結了AI PC市場的競爭現狀和投資機會。
Thumbnail
科技巨擘聯手推進生成式AI發展 開創人工智慧新時代 在生成式人工智慧(Generative AI)的浪潮中,雲端運算龍頭AWS和晶片巨擘NVIDIA攜手合作,推出一系列革命性的基礎設施、軟體和服務。
Thumbnail
科技巨擘聯手推進生成式AI發展 開創人工智慧新時代 在生成式人工智慧(Generative AI)的浪潮中,雲端運算龍頭AWS和晶片巨擘NVIDIA攜手合作,推出一系列革命性的基礎設施、軟體和服務。
Thumbnail
根據高盛最近的研究報告,未來的個人電腦和移動設備將搭載更多由AI增強後的應用程式,如AI增強、安全性提升和運算能力強化。 消費性電子股票組合<GSXUPCAI>也顯示出潛力,並列出了成分股以及其權重。
Thumbnail
根據高盛最近的研究報告,未來的個人電腦和移動設備將搭載更多由AI增強後的應用程式,如AI增強、安全性提升和運算能力強化。 消費性電子股票組合<GSXUPCAI>也顯示出潛力,並列出了成分股以及其權重。
Thumbnail
AI PC 硬體 + AI OS + AI PC 摘要
Thumbnail
AI PC 硬體 + AI OS + AI PC 摘要
Thumbnail
數位化時代中,人工智能(AI)已成為推動創新和進步的關鍵力量。本文探討AI的現狀、挑戰以及未來可能性,並提出負責任地發展和使用AI的思考。
Thumbnail
數位化時代中,人工智能(AI)已成為推動創新和進步的關鍵力量。本文探討AI的現狀、挑戰以及未來可能性,並提出負責任地發展和使用AI的思考。
Thumbnail
AI晶片將成終端與消費品標配,符合日前提及AI帶動新一波產品迭代更新,預計今年春天搭仔NVDA AI PC晶片的筆記型電腦上市,並關注待設備與語言模型搭配,有助於AI應用發展,顯示AI發展仍處於早期階段。
Thumbnail
AI晶片將成終端與消費品標配,符合日前提及AI帶動新一波產品迭代更新,預計今年春天搭仔NVDA AI PC晶片的筆記型電腦上市,並關注待設備與語言模型搭配,有助於AI應用發展,顯示AI發展仍處於早期階段。
Thumbnail
你不用很懂半導體沒關係, 但有一個基本的邏輯, 觀念很簡單。 讓我用幾分鐘解釋給你聽。 全球AI晶片市場規模將在五年內成長超過26倍。 12月時,AMD發表: 「AI加速器(包括記憶體)的市場規模(TAM或Total Addressable Market)預計
Thumbnail
你不用很懂半導體沒關係, 但有一個基本的邏輯, 觀念很簡單。 讓我用幾分鐘解釋給你聽。 全球AI晶片市場規模將在五年內成長超過26倍。 12月時,AMD發表: 「AI加速器(包括記憶體)的市場規模(TAM或Total Addressable Market)預計
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News