小小工程師

筆記：為何GPU，在AI的運算為何佔比如此大？

小小工程師-avatar-img
小小工程師
發佈於以工程師角度看經濟
更新於 發佈於 閱讀時間約 1 分鐘
投資理財內容聲明

(2023/4/16)
聽完‎在 Apple Podcasts 上的《財報狗 - 掌握台股美股時事議題》：205.【財經時事放大鏡】NVIDIA GTC 與美國晶片法

Q：

為何語言要大量訓練深度學習不是用擅長複雜運算／電晶體密度也較高的CPU?

其實也不了解GPU/CPU的差異關鍵在哪?

Ａ：(from 財報狗站長－小鄭)

AI 深度學習演算法適合採用平行運算，此為 GPU 強項，CPU 強項不在此。CPU 的架構中 logic control & cache 佔了高比重，反而真正用在 compute 佔的面積較少；GPU 相反。

raw-image


小小工程師以工程師角度看經濟
留言
avatar-img
留言分享你的想法！
avatar-img
小小工程師
21會員
80內容數
政策影響著資本市場資金動向與流速， 資本市場灌溉了各類的產業 工業與科技的發展影響了經濟，影響了基本面， 金融市場的基本面影響了指數的漲跌， 而這一切就就是景氣循環。 只要金錢還存在購買力， 我們就逃不離景氣循環， 掌握景氣循環，才能掌握自己的命運， 我是黃聖育任職汽產業的工程師歡迎一起討論經濟。
小小工程師的其他內容
2023/10/14
台灣汽車與電子產業的交融
　　大家好！我是一位在職工程師，兩位孩子的爸，來自理工科背景的我對經濟學有著濃厚的興趣。今天我要分享我對汽車也有了新的觀察與看法，台灣的汽車產業進入了新的紀元，雖然這可能會給汽車產業帶來新的風險，但有進步，才會有新的火花，新的衝突，新的矛盾，很期待兩大公司能夠在合作中找到平衡，為...
2023/10/14
台灣汽車與電子產業的交融
　　大家好！我是一位在職工程師，兩位孩子的爸，來自理工科背景的我對經濟學有著濃厚的興趣。今天我要分享我對汽車也有了新的觀察與看法，台灣的汽車產業進入了新的紀元，雖然這可能會給汽車產業帶來新的風險，但有進步，才會有新的火花，新的衝突，新的矛盾，很期待兩大公司能夠在合作中找到平衡，為...
2023/10/13
隨著AI的退潮，最近鬼故事漸漸釋出平衡了市場傻多的氛圍
　大家好！我是一位在職工程師，兩位孩子的爸，來自理工科背景的我對經濟學有著濃厚的興趣。這幾週並不怎平靜，天然氣在能源價格中的地位與石油相當，10/4日天然氣價格突破3.0，配合天然氣管線破裂的消息後，價格上揚15%；同時，雙十節期間，以色列與加沙爆發衝突，整體上並不是什麼會影響股市的重大轉折點，但.
Thumbnail
2023/10/13
隨著AI的退潮，最近鬼故事漸漸釋出平衡了市場傻多的氛圍
　大家好！我是一位在職工程師，兩位孩子的爸，來自理工科背景的我對經濟學有著濃厚的興趣。這幾週並不怎平靜，天然氣在能源價格中的地位與石油相當，10/4日天然氣價格突破3.0，配合天然氣管線破裂的消息後，價格上揚15%；同時，雙十節期間，以色列與加沙爆發衝突，整體上並不是什麼會影響股市的重大轉折點，但.
Thumbnail
2023/10/06
金融壓力指數上揚，下週突破零軸？
　大家好！我是一位在職工程師，兩位孩子的爸，來自理工科背景的我對經濟學有著濃厚的興趣。這兩個月來如預期(美元看漲 1、2、3、4、5)真的看到亞洲貨幣競相貶值，但貶勢猛烈真的超過我的想像，並反媒體的一再強調市場正在錯估FED的終端利率與通膨，因此我們也洞見了債券市場嚴重的高估與背離(1、2)，終於在
Thumbnail
2023/10/06
金融壓力指數上揚，下週突破零軸？
　大家好！我是一位在職工程師，兩位孩子的爸，來自理工科背景的我對經濟學有著濃厚的興趣。這兩個月來如預期(美元看漲 1、2、3、4、5)真的看到亞洲貨幣競相貶值，但貶勢猛烈真的超過我的想像，並反媒體的一再強調市場正在錯估FED的終端利率與通膨，因此我們也洞見了債券市場嚴重的高估與背離(1、2)，終於在
Thumbnail
看更多
你可能也想看
Thumbnail
avatar-avatar
怪獸科技公司✖️沙龍
GPU不香了？NPU的低功耗，AI PC能否讓PC重新成為引領世界的潮流｜怪獸科技公司
AI PC 是將 AI 模型與傳統 PC 緊密結合的裝置，為本地 AI 運算能力，更能保護用戶的隱私和數據安全。 AI PC 具有 NPU、CPU 以及 GPU，並能夠具備高算力 AI 應用的需求，在 AI 運算性能、效率跟功耗方面，NPU 相較 CPU 與 GPU 具有大幅優勢。
#AIPC#AI#COMPUTEX
Thumbnail
avatar-avatar
怪獸科技公司✖️沙龍
GPU不香了？NPU的低功耗，AI PC能否讓PC重新成為引領世界的潮流｜怪獸科技公司
AI PC 是將 AI 模型與傳統 PC 緊密結合的裝置，為本地 AI 運算能力，更能保護用戶的隱私和數據安全。 AI PC 具有 NPU、CPU 以及 GPU，並能夠具備高算力 AI 應用的需求，在 AI 運算性能、效率跟功耗方面，NPU 相較 CPU 與 GPU 具有大幅優勢。
#AIPC#AI#COMPUTEX
Thumbnail
avatar-avatar
真師傅的AI沙龍
ChatGPT耗電量極高！劉峻誠預言「NPU處理器」將崛起：台積電不轉型恐被追上! 台灣第一家真正的獨角獸？ 耐能!!
劉峻誠提醒，儘管台灣現在處於半導體熱潮中，但晶片製程在摩爾定律下於2奈米後將走入極限， 台灣半導體急需在2024年做出轉型，而目前NPU就是AMD、英特爾等幾個科技巨頭公司的顯學， 「因為如果ChatGPT用NPU來運作，耗電程度將會GPU的千分之一以下。」
#ChatGPT耗電量極高#台積電不轉型恐被追上#NPU處理器將崛起
Thumbnail
avatar-avatar
真師傅的AI沙龍
ChatGPT耗電量極高！劉峻誠預言「NPU處理器」將崛起：台積電不轉型恐被追上! 台灣第一家真正的獨角獸？ 耐能!!
劉峻誠提醒，儘管台灣現在處於半導體熱潮中，但晶片製程在摩爾定律下於2奈米後將走入極限， 台灣半導體急需在2024年做出轉型，而目前NPU就是AMD、英特爾等幾個科技巨頭公司的顯學， 「因為如果ChatGPT用NPU來運作，耗電程度將會GPU的千分之一以下。」
#ChatGPT耗電量極高#台積電不轉型恐被追上#NPU處理器將崛起
Thumbnail
avatar-avatar
Kaori的碗豆園
[007-1.0]NVIDIA在推論式AI半導體方面面臨挑戰：前言
這篇文章探討了NVIDIA在推論式AI半導體市場的挑戰，以及介紹了Intel在AI領域的強化舉措。文章中提到了新興企業可能有機會取代現有市場領導者，並討論了RISC-V技術在AI半導體市場的應用和其他相關動向。
#Intel#NVIDIA#半導體
Thumbnail
avatar-avatar
Kaori的碗豆園
[007-1.0]NVIDIA在推論式AI半導體方面面臨挑戰：前言
這篇文章探討了NVIDIA在推論式AI半導體市場的挑戰，以及介紹了Intel在AI領域的強化舉措。文章中提到了新興企業可能有機會取代現有市場領導者，並討論了RISC-V技術在AI半導體市場的應用和其他相關動向。
#Intel#NVIDIA#半導體
Thumbnail
avatar-avatar
期貨選擇權交易紀錄心得交流
NVIDIA 黃仁勳 - AI演講即時摘要_元大證券
NVIDIA 黃仁勳 - AI人工智慧時代如何帶動全球新產業革命（個人紀錄用） 🇺🇸Omniverse 就是未來集大成，而加速運算、人工智慧就是兩個最重要的技術核心 🇺🇸CPU效能的擴充速度正在大幅降低，提出「運算通膨」概念
#NVIDIA#AI人工智慧#革命
Thumbnail
avatar-avatar
期貨選擇權交易紀錄心得交流
NVIDIA 黃仁勳 - AI演講即時摘要_元大證券
NVIDIA 黃仁勳 - AI人工智慧時代如何帶動全球新產業革命（個人紀錄用） 🇺🇸Omniverse 就是未來集大成，而加速運算、人工智慧就是兩個最重要的技術核心 🇺🇸CPU效能的擴充速度正在大幅降低，提出「運算通膨」概念
#NVIDIA#AI人工智慧#革命
Thumbnail
avatar-avatar
Kaori的碗豆園
[007]NVIDIA：2024/05/14 NIKKEI Tech Foresight線上座談活動資訊[日文]
NVIDIA在人工智慧處理專用GPU領域的地位牢固，但面臨著來自英特爾和超微半導體等競爭對手的反擊。新興企業也加入競爭，使得競爭更加激烈。未來，合作關係將變得至關重要，NVIDIA和其他競爭對手在激烈的競爭中脫穎而出的關鍵。
#NVIDIA#人工智慧#半導體
Thumbnail
avatar-avatar
Kaori的碗豆園
[007]NVIDIA：2024/05/14 NIKKEI Tech Foresight線上座談活動資訊[日文]
NVIDIA在人工智慧處理專用GPU領域的地位牢固，但面臨著來自英特爾和超微半導體等競爭對手的反擊。新興企業也加入競爭，使得競爭更加激烈。未來，合作關係將變得至關重要，NVIDIA和其他競爭對手在激烈的競爭中脫穎而出的關鍵。
#NVIDIA#人工智慧#半導體
Thumbnail
avatar-avatar
網路安全停看聽-安啦的沙龍
【網路安全停看聽】科普GPU與CPU：探索電腦世界的引擎
這是我最近在『網路安全停看聽』Podcast企劃的一集，文末會提供podcast單集連結，想讓眼睛休息的格友們也可點選收聽喔! 今年NVIDIA輝達這家公司在世界掀起了旋風，不管你之前有沒有購買這家公司的股票，當執行長黃仁勳先生訪台，台灣各家媒體爭相報導下，你總應該注意到這家厲害的公司了。Go
#處理器#GPU#CPU
Thumbnail
avatar-avatar
網路安全停看聽-安啦的沙龍
【網路安全停看聽】科普GPU與CPU：探索電腦世界的引擎
這是我最近在『網路安全停看聽』Podcast企劃的一集，文末會提供podcast單集連結，想讓眼睛休息的格友們也可點選收聽喔! 今年NVIDIA輝達這家公司在世界掀起了旋風，不管你之前有沒有購買這家公司的股票，當執行長黃仁勳先生訪台，台灣各家媒體爭相報導下，你總應該注意到這家厲害的公司了。Go
#處理器#GPU#CPU
Thumbnail
avatar-avatar
商業洞察趨勢 的沙龍
同一晶片，雙重革命：GPU在AI和量子計算的嶄新前景
GPU，既能支援大規模人工智慧計算，現在也能夠支援一些量子軟體，各家公司都在密切關注這個發展趨勢。 GPU已經改變了人工智慧的格局，現在也準備投身量子計算領域，儘管量子技術尚未成熟，但許多公司已經找到可以在與人工智慧相同的晶片上，運行複雜的量子演算法。近年來，由於GPU和其他先進晶片提供的計算
#GPU#人工智慧#晶片
Thumbnail
avatar-avatar
商業洞察趨勢 的沙龍
同一晶片，雙重革命：GPU在AI和量子計算的嶄新前景
GPU，既能支援大規模人工智慧計算，現在也能夠支援一些量子軟體，各家公司都在密切關注這個發展趨勢。 GPU已經改變了人工智慧的格局，現在也準備投身量子計算領域，儘管量子技術尚未成熟，但許多公司已經找到可以在與人工智慧相同的晶片上，運行複雜的量子演算法。近年來，由於GPU和其他先進晶片提供的計算
#GPU#人工智慧#晶片
Thumbnail
avatar-avatar
菜鳥投資成長日記的沙龍
AI開始成為趨勢，台股那些可能會受惠(上)
AI技術的發展為人們的生產和生活帶來了巨大的變革，從智能家居、智能醫療、自動駕駛等，現在AI已經漸漸地出現在你的生活中，如果未來AI會更盛行的，我們可以從中找到甚麼投資機會 那以下就要稍微介紹一下AI，但因為菜鳥也是自己去爬文，去找資料，不是相關的專業人士，所以僅供參考就好了，那AI也有蠻多法規跟倫
#伺服器#Ai#股票
Thumbnail
avatar-avatar
菜鳥投資成長日記的沙龍
AI開始成為趨勢，台股那些可能會受惠(上)
AI技術的發展為人們的生產和生活帶來了巨大的變革，從智能家居、智能醫療、自動駕駛等，現在AI已經漸漸地出現在你的生活中，如果未來AI會更盛行的，我們可以從中找到甚麼投資機會 那以下就要稍微介紹一下AI，但因為菜鳥也是自己去爬文，去找資料，不是相關的專業人士，所以僅供參考就好了，那AI也有蠻多法規跟倫
#伺服器#Ai#股票
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News