筆記：為何GPU，在AI的運算為何佔比如此大？
投資理財內容聲明
- 文內如有投資理財相關經驗、知識、資訊等內容，皆為創作者個人分享行為。
- 有價證券、指數與衍生性商品之數據資料，僅供輔助說明之用，不代表創作者投資決策之推介及建議。
- 閱讀同時，請審慎思考自身條件及自我決策，並應有為決策負責之事前認知。
- 方格子希望您能從這些分享內容汲取投資養份，養成獨立思考的能力、判斷、行動，成就最適合您的投資理財模式。
Q：
為何語言要大量訓練深度學習不是用擅長複雜運算／電晶體密度也較高的CPU?
其實也不了解GPU/CPU的差異關鍵在哪?
Ａ：(from 財報狗站長－小鄭)
AI 深度學習演算法適合採用平行運算，此為 GPU 強項，CPU 強項不在此。CPU 的架構中 logic control & cache 佔了高比重，反而真正用在 compute 佔的面積較少；GPU 相反。
為什麼會看到廣告
19會員
78內容數
政策影響著資本市場資金動向與流速，
資本市場灌溉了各類的產業
工業與科技的發展影響了經濟，影響了基本面，
金融市場的基本面影響了指數的漲跌，
而這一切就就是景氣循環。
只要金錢還存在購買力，
我們就逃不離景氣循環，
掌握景氣循環，才能掌握自己的命運，
我是黃聖育任職汽產業的工程師歡迎一起討論經濟。
留言0
查看全部
你可能也想看
Google News 追蹤
嘿，大家新年快樂~ 新年大家都在做什麼呢？
跨年夜的我趕工製作某個外包設計案，在工作告一段落時趕上倒數。
然後和兩個小孩過了一個忙亂的元旦。在深夜時刻，看到朋友傳來的解籤網站，興致勃勃熬夜體驗了一下，覺得非常好玩，或許有人玩過了，但還是想寫上來分享紀錄一下~
Grace CPU 是 NVIDIA 專為高性能計算（HPC）和人工智能（AI）應用設計的數據中心處理器。Grace CPU 是 NVIDIA 在數據中心市場的重要佈局，與其 GPU 深度集成，為異構計算提供強大的計算能力。
Grace CPU 的主要特點
基於 Arm 架構
Grace C
AI PC 是將 AI 模型與傳統 PC 緊密結合的裝置，為本地 AI 運算能力，更能保護用戶的隱私和數據安全。 AI PC 具有 NPU、CPU 以及 GPU，並能夠具備高算力 AI 應用的需求，在 AI 運算性能、效率跟功耗方面，NPU 相較 CPU 與 GPU 具有大幅優勢。
神經處理單元（NPU）主要用於加速人工智慧（AI）和機器學習（ML）任務。
以下是一些主要的應用領域和使用者：
AI和機器學習：NPU是人工智慧和機器學習領域的直接受益者。這些技術依賴數據而蓬勃發展，NPU擅長消化和解釋大量資料集，使機器能夠以前所未有的速度學習。
智慧型設備和物聯網：在智慧型
劉峻誠提醒，儘管台灣現在處於半導體熱潮中，但晶片製程在摩爾定律下於2奈米後將走入極限，
台灣半導體急需在2024年做出轉型，而目前NPU就是AMD、英特爾等幾個科技巨頭公司的顯學，
「因為如果ChatGPT用NPU來運作，耗電程度將會GPU的千分之一以下。」
NVIDIA、Intel、Tenstorrent和RISC-V在AI半導體領域的競爭和合作。Intel在AI領域推出了一系列產品，Tenstorrent和Rapidus合作開發新技術，而RISC-V開放源碼指令集架構也受到了廣泛關注。這些內容都展示了AI半導體市場的技術革新和競爭激烈的情況。
這篇文章探討了NVIDIA在推論式AI半導體市場的挑戰，以及介紹了Intel在AI領域的強化舉措。文章中提到了新興企業可能有機會取代現有市場領導者，並討論了RISC-V技術在AI半導體市場的應用和其他相關動向。
NVIDIA 黃仁勳 - AI人工智慧時代如何帶動全球新產業革命（個人紀錄用）
🇺🇸Omniverse 就是未來集大成，而加速運算、人工智慧就是兩個最重要的技術核心
🇺🇸CPU效能的擴充速度正在大幅降低，提出「運算通膨」概念
NVIDIA在人工智慧處理專用GPU領域的地位牢固，但面臨著來自英特爾和超微半導體等競爭對手的反擊。新興企業也加入競爭，使得競爭更加激烈。未來，合作關係將變得至關重要，NVIDIA和其他競爭對手在激烈的競爭中脫穎而出的關鍵。
AI相關概念股同時成為股市關注焦點，本文比較Intel NPU與Apple M3 神經網路引擎在性能、功耗和可用性方面的差異，並提供具體的應用示例。
近期，圖形處理單元（GPU）需求激增，推動了AMD等公司的顯著收益。但市場存在非理性的狂熱，對於AI芯片增長的預期可能被過度樂觀估計。此外，市場領先者Nvidia的主導地位導致客戶過度訂購，美國對中國出口芯片的舉措也可能對市場增長產生影響。
嘿，大家新年快樂~ 新年大家都在做什麼呢？
跨年夜的我趕工製作某個外包設計案，在工作告一段落時趕上倒數。
然後和兩個小孩過了一個忙亂的元旦。在深夜時刻，看到朋友傳來的解籤網站，興致勃勃熬夜體驗了一下，覺得非常好玩，或許有人玩過了，但還是想寫上來分享紀錄一下~
Grace CPU 是 NVIDIA 專為高性能計算（HPC）和人工智能（AI）應用設計的數據中心處理器。Grace CPU 是 NVIDIA 在數據中心市場的重要佈局，與其 GPU 深度集成，為異構計算提供強大的計算能力。
Grace CPU 的主要特點
基於 Arm 架構
Grace C
AI PC 是將 AI 模型與傳統 PC 緊密結合的裝置，為本地 AI 運算能力，更能保護用戶的隱私和數據安全。 AI PC 具有 NPU、CPU 以及 GPU，並能夠具備高算力 AI 應用的需求，在 AI 運算性能、效率跟功耗方面，NPU 相較 CPU 與 GPU 具有大幅優勢。
神經處理單元（NPU）主要用於加速人工智慧（AI）和機器學習（ML）任務。
以下是一些主要的應用領域和使用者：
AI和機器學習：NPU是人工智慧和機器學習領域的直接受益者。這些技術依賴數據而蓬勃發展，NPU擅長消化和解釋大量資料集，使機器能夠以前所未有的速度學習。
智慧型設備和物聯網：在智慧型
劉峻誠提醒，儘管台灣現在處於半導體熱潮中，但晶片製程在摩爾定律下於2奈米後將走入極限，
台灣半導體急需在2024年做出轉型，而目前NPU就是AMD、英特爾等幾個科技巨頭公司的顯學，
「因為如果ChatGPT用NPU來運作，耗電程度將會GPU的千分之一以下。」
NVIDIA、Intel、Tenstorrent和RISC-V在AI半導體領域的競爭和合作。Intel在AI領域推出了一系列產品，Tenstorrent和Rapidus合作開發新技術，而RISC-V開放源碼指令集架構也受到了廣泛關注。這些內容都展示了AI半導體市場的技術革新和競爭激烈的情況。
這篇文章探討了NVIDIA在推論式AI半導體市場的挑戰，以及介紹了Intel在AI領域的強化舉措。文章中提到了新興企業可能有機會取代現有市場領導者，並討論了RISC-V技術在AI半導體市場的應用和其他相關動向。
NVIDIA 黃仁勳 - AI人工智慧時代如何帶動全球新產業革命（個人紀錄用）
🇺🇸Omniverse 就是未來集大成，而加速運算、人工智慧就是兩個最重要的技術核心
🇺🇸CPU效能的擴充速度正在大幅降低，提出「運算通膨」概念
NVIDIA在人工智慧處理專用GPU領域的地位牢固，但面臨著來自英特爾和超微半導體等競爭對手的反擊。新興企業也加入競爭，使得競爭更加激烈。未來，合作關係將變得至關重要，NVIDIA和其他競爭對手在激烈的競爭中脫穎而出的關鍵。
AI相關概念股同時成為股市關注焦點，本文比較Intel NPU與Apple M3 神經網路引擎在性能、功耗和可用性方面的差異，並提供具體的應用示例。
近期，圖形處理單元（GPU）需求激增，推動了AMD等公司的顯著收益。但市場存在非理性的狂熱，對於AI芯片增長的預期可能被過度樂觀估計。此外，市場領先者Nvidia的主導地位導致客戶過度訂購，美國對中國出口芯片的舉措也可能對市場增長產生影響。