AI 晶片:CPU、GPU、NPU、TPU

更新 發佈閱讀 6 分鐘
raw-image

在 AI 晶片的世界裡,名字看起來只差幾個字母,但背後的設計哲學與製程工藝卻天差地遠。CPU 是最早的跑者,通用性最強,卻逐漸被視為萬能但不專精的坦克。當影像遊戲崛起,GPU 登場,它像卡車一樣能一次搬運成千上萬個像素,成為影像處理與深度學習訓練的主力。

隨著雲端 AI 模型規模暴漲,Google 推出了 TPU,用專用的矩陣引擎來承擔張量運算。最後,在行動與邊緣裝置需求推動下,NPU 登場,它不是取代 GPU,而是專注在低功耗推論的場景,像小客車般靈活,讓 AI 能深入到手機、相機、家電與汽車。這四種處理器,不只是名字不同,更在 架構設計 與 製程工藝 上展現出截然不同的 DNA。


CPU:坦克式的通用大腦

CPU(中央處理器)的使命是什麼都能做。它核心數量少(2–64 個常見),但每顆核心複雜度極高,擁有分支預測、快取階層、複雜指令集,適合邏輯控制與作業系統。

  1. 架構特徵
  • 少數強核心 + 大量 SRAM(靜態隨機存取記憶體)快取
  • 高頻設計,注重單核效能與通用性
  • 指令集複雜(x86 / ARM)
  1. 製程特徵
  • 最先進節點優先採用(3nm / 2nm)
  • 曝光挑戰:mask 層數最多(>100 層),臨界尺寸控制最嚴苛
  • 設計複雜,對 EUV 的 overlay 與 CD 均勻性極度依賴
  1. 核心數的影響
  • 更多核心 → 更好的多工處理
  • 但單程式效能仍取決於單核強度
  • 像是辦公室裡多幾個超強經理人,可以同時管不同專案,但專案內部效率還是靠單一經理人

(延伸閱讀:CPU 是怎麼做出來的?


GPU:卡車式的平行加速

GPU(圖形處理器)原本為遊戲影像設計,它的核心設計是數千個簡單運算單元組成的平行架構,適合對龐大的矩陣同時操作。這讓 GPU 意外成為 AI 訓練的最佳硬體。

  1. 架構特徵
  • 上千個簡單核心,SIMD / SIMT 指令集
  • 浮點運算與矩陣計算能力極強
  • SRAM 比例低於 CPU,更依賴外部記憶體
  1. 製程特徵
  • 晶片面積巨大(600–800mm² 甚至上千)
  • 曝光挑戰:大晶片需要多重曝光拼接(stitching),良率壓力極大
  • 追求面積效率與散熱控制,通常落在 5nm / 4nm
  1. 核心數的影響
  • 更多核心代表更高 FLOPS(浮點運算能力)
  • 適合矩陣平行化任務(影像渲染、深度學習訓練)
  • 但若運算無法平行化,再多核心也閒置
  • 像裝配線,多幾百工人一起鎖螺絲,產能倍增,但若工作需要討論決策,工人就派不上用場

TPU:高鐵式的專用張量引擎

TPU(Tensor Processing Unit)是 Google 專為 TensorFlow 設計的 ASIC。它的核心是一個規律排列的矩陣乘法陣列(MAC systolic array),專注於深度學習中的張量運算。

  1. 架構特徵
  • 大規模矩陣乘法陣列 + SRAM 快取
  • 指令集極簡,僅支援 AI 必要運算(矩陣、卷積、激活函數)
  • 完全針對 TensorFlow 生態優化
  1. 製程特徵
  • 不一定採最先進節點(TPU v2/v3 曾用 28nm / 16nm)
  • 曝光挑戰:陣列規律,OPC 校正簡單,但 SRAM block 需要高 CD 均勻性
  • 以效能 / 能效為主,不追求最高頻率
  1. 核心數的影響
  • 這裡的核心不是 CPU 式的 core,而是 MAC 單元陣列
  • 陣列越大,單次矩陣吞吐率越高
  • 像製麵機,滾輪越寬,每次壓出的麵條就越多

(延伸閱讀:Google TPU 的垂直整合


NPU:小客車式的邊緣推論引擎

NPU(Neural Processing Unit)是 AI 時代的新星,專為推論設計,重點是能效與低延遲。它不像 GPU 那樣追求極致算力,而是針對日常 AI 任務(臉部辨識、即時翻譯、影像增強)做優化。

  1. 架構特徵
  • 小型 MAC 陣列,常搭配 DSP 與 SRAM 緩衝
  • 支援 INT8 / INT4 量化,犧牲精度換取能效
  • 可積木式擴展:小至手機晶片,大至邊緣伺服器
  1. 製程特徵
  • 常見於行動 SoC,採 6nm / 5nm 低功耗製程
  • 曝光挑戰:對 leakage(漏電) 與變異控制敏感
  • 對能效比(TOPS/W)優化遠比極限算力更重要

核心數的影響

  • 核心數增加代表更快的臉部辨識、更省電的推論
  • 在邊緣伺服器可堆疊成多顆 NPU 模組
  • 像小客車車隊,多幾台能同時載更多人,但每台都省油

核心數不是唯一答案

CPU 需要少數強核心來支撐系統邏輯;GPU 則依賴上千核心達到平行吞吐;TPU 的核心其實是矩陣單元,陣列大小決定訓練速度;NPU 則在能效與規模化之間找平衡。

所以核心數並非單純的數字遊戲,而是背後架構與製程的設計取捨。真正決定差異的,是它們各自要解的題:多工?平行?專用?還是低功耗推論?

新的時代,一定會有新的王者。但更可能的真相是這四種晶片會持續共存,在不同舞台上扮演最佳角色。


留言
avatar-img
留言分享你的想法!
avatar-img
邊喝邊想
3會員
97內容數
有些問題,邊喝點東西,邊想,會比較有答案。這裡是我閱讀、觀察、懷疑,然後慢慢轉化的地方。寫的東西有科技、咖啡、酒,偶爾是神話。如果你也喜歡慢慢想事情,跟著我的節奏,這裡或許適合你。
邊喝邊想的其他內容
2025/08/26
TPU揭示AI整合戰略,Google力拚成為AI時代的Apple。
Thumbnail
2025/08/26
TPU揭示AI整合戰略,Google力拚成為AI時代的Apple。
Thumbnail
2025/08/20
NVIDIA 押注 CoWoP,成本誘因與風險並存,決定AI封裝未來格局。
Thumbnail
2025/08/20
NVIDIA 押注 CoWoP,成本誘因與風險並存,決定AI封裝未來格局。
Thumbnail
2025/08/19
基板從 PCB 演進至 ABF,HDI 工法推至極限,為 AI 晶片奠基。
Thumbnail
2025/08/19
基板從 PCB 演進至 ABF,HDI 工法推至極限,為 AI 晶片奠基。
Thumbnail
看更多
你可能也想看
Thumbnail
透過蝦皮分潤計畫,輕鬆賺取零用金!本文分享5-6月實測心得,包含數據流程、實際收入、平臺優點及注意事項,並推薦高分潤商品,教你如何運用空閒時間創造被動收入。
Thumbnail
透過蝦皮分潤計畫,輕鬆賺取零用金!本文分享5-6月實測心得,包含數據流程、實際收入、平臺優點及注意事項,並推薦高分潤商品,教你如何運用空閒時間創造被動收入。
Thumbnail
單身的人有些會養寵物,而我養植物。畢竟寵物離世會傷心,植物沒養好再接再厲就好了~(笑)
Thumbnail
單身的人有些會養寵物,而我養植物。畢竟寵物離世會傷心,植物沒養好再接再厲就好了~(笑)
Thumbnail
不知你有沒有過這種經驗?衛生紙只剩最後一包、洗衣精倒不出來,或電池突然沒電。這次一次補貨,從電池、衛生紙到洗衣精,還順便分享使用心得。更棒的是,搭配蝦皮分潤計畫,愛用品不僅自己用得安心,分享給朋友還能賺回饋。立即使用推薦碼 X5Q344E,輕鬆上手,隨時隨地賺取分潤!
Thumbnail
不知你有沒有過這種經驗?衛生紙只剩最後一包、洗衣精倒不出來,或電池突然沒電。這次一次補貨,從電池、衛生紙到洗衣精,還順便分享使用心得。更棒的是,搭配蝦皮分潤計畫,愛用品不僅自己用得安心,分享給朋友還能賺回饋。立即使用推薦碼 X5Q344E,輕鬆上手,隨時隨地賺取分潤!
Thumbnail
身為一個典型的社畜,上班時間被會議、進度、KPI 塞得滿滿,下班後只想要找一個能夠安靜喘口氣的小角落。對我來說,畫畫就是那個屬於自己的小樹洞。無論是胡亂塗鴉,還是慢慢描繪喜歡的插畫人物,那個專注在筆觸和色彩的過程,就像在幫心靈按摩一樣,讓緊繃的神經慢慢鬆開。
Thumbnail
身為一個典型的社畜,上班時間被會議、進度、KPI 塞得滿滿,下班後只想要找一個能夠安靜喘口氣的小角落。對我來說,畫畫就是那個屬於自己的小樹洞。無論是胡亂塗鴉,還是慢慢描繪喜歡的插畫人物,那個專注在筆觸和色彩的過程,就像在幫心靈按摩一樣,讓緊繃的神經慢慢鬆開。
Thumbnail
AI PC 是將 AI 模型與傳統 PC 緊密結合的裝置,為本地 AI 運算能力,更能保護用戶的隱私和數據安全。 AI PC 具有 NPU、CPU 以及 GPU,並能夠具備高算力 AI 應用的需求,在 AI 運算性能、效率跟功耗方面,NPU 相較 CPU 與 GPU 具有大幅優勢。
Thumbnail
AI PC 是將 AI 模型與傳統 PC 緊密結合的裝置,為本地 AI 運算能力,更能保護用戶的隱私和數據安全。 AI PC 具有 NPU、CPU 以及 GPU,並能夠具備高算力 AI 應用的需求,在 AI 運算性能、效率跟功耗方面,NPU 相較 CPU 與 GPU 具有大幅優勢。
Thumbnail
隨著近年來的AI浪潮,讓大家普遍對於AI後續的發展充滿了期待。今年所舉辦的台北電腦展 (Computex),讓這樣的相關的討論更加熱烈。有在投資的讀者們或多或少都會看到相關產業鏈的梳理,像是AI伺服器需要什麼奈米的晶圓製程、需要那些先進封裝測試技術、需要什麼樣的水冷技術、哪些的OEM廠 (O
Thumbnail
隨著近年來的AI浪潮,讓大家普遍對於AI後續的發展充滿了期待。今年所舉辦的台北電腦展 (Computex),讓這樣的相關的討論更加熱烈。有在投資的讀者們或多或少都會看到相關產業鏈的梳理,像是AI伺服器需要什麼奈米的晶圓製程、需要那些先進封裝測試技術、需要什麼樣的水冷技術、哪些的OEM廠 (O
Thumbnail
NVIDIA的新目標是成為支援企業開發AI應用程式的「AI晶圓代工」,提供技術、專業知識和基礎設施,幫助實現AI應用。具體而言,NVIDIA將提供GPU、自主CPU「Grace」、超級計算機及其硬體,還有軟體和工具,以滿足客戶需求。
Thumbnail
NVIDIA的新目標是成為支援企業開發AI應用程式的「AI晶圓代工」,提供技術、專業知識和基礎設施,幫助實現AI應用。具體而言,NVIDIA將提供GPU、自主CPU「Grace」、超級計算機及其硬體,還有軟體和工具,以滿足客戶需求。
Thumbnail
科技巨擘聯手推進生成式AI發展 開創人工智慧新時代 在生成式人工智慧(Generative AI)的浪潮中,雲端運算龍頭AWS和晶片巨擘NVIDIA攜手合作,推出一系列革命性的基礎設施、軟體和服務。
Thumbnail
科技巨擘聯手推進生成式AI發展 開創人工智慧新時代 在生成式人工智慧(Generative AI)的浪潮中,雲端運算龍頭AWS和晶片巨擘NVIDIA攜手合作,推出一系列革命性的基礎設施、軟體和服務。
Thumbnail
NVIDIA 黃仁勳 - AI人工智慧時代如何帶動全球新產業革命(個人紀錄用) 🇺🇸Omniverse 就是未來集大成,而加速運算、人工智慧就是兩個最重要的技術核心 🇺🇸CPU效能的擴充速度正在大幅降低,提出「運算通膨」概念
Thumbnail
NVIDIA 黃仁勳 - AI人工智慧時代如何帶動全球新產業革命(個人紀錄用) 🇺🇸Omniverse 就是未來集大成,而加速運算、人工智慧就是兩個最重要的技術核心 🇺🇸CPU效能的擴充速度正在大幅降低,提出「運算通膨」概念
Thumbnail
AI PC 硬體 + AI OS + AI PC 摘要
Thumbnail
AI PC 硬體 + AI OS + AI PC 摘要
Thumbnail
瞭解IC和IP的區別、晶圓代工的角色,以及芯粒和小晶片對半導體製造的影響。此外,探討了人工智慧對電子設計的影響。
Thumbnail
瞭解IC和IP的區別、晶圓代工的角色,以及芯粒和小晶片對半導體製造的影響。此外,探討了人工智慧對電子設計的影響。
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News