科技小白 | NVIDIA台灣協理演講筆記:Further with AI, Faster on RTX

閱讀時間約 8 分鐘

前幾天有幸聽到NVIDIA台灣區協理Alex的演講,談GPU的基本知識以及其在產業間的重要性。身為非理工科系相關的學生,Alex的分享內容淺顯易懂,也讓我這個初接觸半導體領域的科技小白對GPU有了更全面的理解。Alex同時談了很多Jensen的理念和NVIDIA的遠見及未來,有感而發,連走在半導體科技最尖端的輝達,還是能持續以不斷突破為目標布局企業的下一步,也瞬間能理解為何NVIDIA能從GPU的0走到1,並且在半導體業界屹立不搖。

順手做了些講座筆記,加上在網路上蒐集、學習到的一些資料,整理了一下演講內容,希望半年、一年後我回來再看到這篇文章,已經能駕輕就熟,又建立更多半導體產業的KNOW-HOW。

NVIDIA台灣區協理Alex的演講畫面~

NVIDIA台灣區協理Alex的演講畫面~


從CPU到GPU,CPU與GPU協同工作的時代


CPU(Central Processing Unit,中央處理器)雖然比GPU(Graphic Processing Unit,圖形處理器)更早流通於商業應用上,但當今GPU卻是更多人關注焦點。GPU的發展已從最初的圖形渲染用途擴展到計算加速(加速器),加快了AI發展。假設現在我們想要訓練一個大型的神經網絡(深度學習模型),單憑CPU可能需要幾天甚至幾周完成,而GPU卻能夠將這個時間縮短至幾小時。

差異在於,CPU專注於單核處理器的效能和通用性質,目標是處理各種任務的邏輯控制,而GPU卻專注在平行處理(Parallel Computing),它的多核心架構非常適合同時處理大量的相同計算任務,譬如上述所說的圖形渲染。

若由技術發展時間線來看,CPU和GPU被開發以及盛行的時間相差約25至30年:

CPU歷史和發展:

  • 發展初期(1950s - 1960s): CPU概念可以追溯到20世紀中期。在1950年代和1960年代,第一代電腦使用真空管作為邏輯電路的電腦,後來被晶體管和集成電路技術取代,開啟了第二代電晶體電腦時代。1960年代,由Intel推出了第一個商業化微處理器—Intel 4004 (1971年),被稱作現代CPU開端。
  • 盛行時期(1970s - 至今):至1970年代開始,隨著個人電腦普及,CPU逐漸成為各種電子設備中的核心,而CPU的計算能力也隨技術進步顯著提高,並成為所有計算設備的主要處理器,通常執行於計算任務。

GPU歷史和發展:

  • 發展初期(1980s - 1990s): GPU發展相對CPU晚。最早的GPU主要用於個人電腦的圖形渲染技術,協助處理線條會致、多邊形和紋理等功能。最早的圖形加速卡出現於1980s末至1990s初,當時這些圖卡尚未具備現代GPU通用的計算能力,直到NVIDIA在1999年推出了第一款現代意義上的GPU——GeForce 256,此是全球第一款繪圖處理器,具有專門的硬體加速來處理電腦中的圖形計算需求。
  • 盛行時期(2000s - 至今): 2000s後,隨著電腦遊戲和視覺運算的需求大增,GPU發展越發迅速,爾後,GPU開始與平行運算技術結合,逐漸發展出高度平行的架構,可同時處理數千個小型任務。GPU不再只被用於圖形處理,還應用在人工智慧和機器學習(深度學習)等領域,尤其是在深度學習中表現出色。

雖然回顧技術歷史,CPU比GPU早好幾十年進入商業應用,但隨著科技進步、AI發展,GPU已發展成當今備受重視的強大運算工具,在現代的各種計算需求中和CPU互補。


所以平行運算到底是什麼?


由串行運算到平行運算示意圖(Alex演講PPT重製)

由串行運算到平行運算示意圖(Alex演講PPT重製)

早期電腦運算方式是串行運算(Sequential Computing),也就是CPU最主要的功能。這種方式強調一個處理器(或一個計算單位)依照順序一一處理各項任務。串行運算可以想像成早期用電腦來檢索資料,我們在Google引擎上輸入一個想知道的資料,電腦就會從資料庫裡的第一條資料開始逐一檢查,直到找到符合的結果,並且每次只能處理一條資料,檢查完一條再處理下一條。

然而,現在的平行運算(Parallel Computing)則可以同時處理多項任務或多個數據資料,它通常擁有多個核心或處理單元來同時執行不同的運算程式,因為它有數千個較小的處理核心。也因此GPU在AI模型和推理過程訓練特別有用。AI領域的深度學習、圖像生成、自然語言處理(Natural Language Processing, NLP)等,都需要大量、複雜的計算,GPU的強大平行處理能力和高速數據傳輸速度,非常適合計算這些密集任務。以2021年底開始備受討論的生成式AI(Generative AI)來說,它就是高度依賴GPU的平行運算技術來實現多元模型的訓練和推理。

Alex用了一個很好理解的比喻來說明平行運算作用於AI模型訓練的厲害之處(對我這個科技小白來說XD):機器人手臂。

早期工程師在設計機器人手臂時,可能需要編寫多條程式語言來精確控制其動作,告訴機器人舉起高度、角度、時間、手臂握力等。不過,得益於平行運算技術,它的作用在於同時處理這些參數計算,而非像以前一般一步步處理它們,能更快速生成最佳的控制方案。此外,透過AI模型的訓練,工程師只需輸入簡單的語句或指令(一句話),AI就能自動生成合適的動作控制程式,並完成具體的任務指令。

還記得我在生成式AI大爆發的2023年上半年,在媒體《數位時代》下的Meet創業小聚實習,撰寫了多篇關於AI科技新創的相關報導,常提到「只需一句話,AI就能為你完成某項任務」這樣的描述,當時總是根據採訪的新創公司,拼命理解生程式AI的運用場景、為產業帶來的效益,如今,才真正對生成式AI的底層邏輯和技術基礎有了更全面的了解。

 

GPU在各產業的重要性


Alex說,許多人認為NVIDIA獨大,但實則上只是因為Jensen敢嘗試,在別人還不敢踏入GPU領域時就一頭栽入,並且將技術做到其他新進者難以追趕上的程度。

一直到現在,NVIDIA仍然不斷思考GPU的可能性、運用,以及如何去告訴消費者(2B)他們需要或可以怎麼使用這些技術。現在,基本上大型公司在設立預算時一定會可慮GPU,而非只有CPU。GPU已經遍及了許多產業與應用。

AI應用領域 (由Alex演講PPT重製)

AI應用領域 (由Alex演講PPT重製)

記得Jensen曾說過:

Success is a work in progress, it’s not about achieving a goal, it’s about constantly improving and pushing boundaries.
(成功是正在進行的過程,成功並不是實現目標,而是不斷改進以突破界線)

成功是個過程,這句話真的是發人深省。這個理念確實也反映在Jensen規劃NVIDIA的未來上。他說:「若是重來一遍,我的體悟是,『生命科學』會是最複雜的科學領域」,也因此NVIDIA開始嘗試精進GPU在生物醫學方面的應用,光是去年便投資了20幾家與醫療照護、生醫相關的新創公司。不斷求進步和突破的精神,真是值得學得的部分呀!

By the way,最近一款中國新上式的3A遊戲《黑神話:悟空》,就結合了NVIDIA的GeForce RTX™ 40 系列GPU 和光線追蹤核心,原本就知道這款新遊戲在網路上討論火熱,趁機到官網上看了一下使用GeForce RTX 40 GPU的前後差異,確實在畫面的真實感差了好多,讚嘆科技!

遊戲《黑神話:悟空》套上NVGeForce RTX™ 40 系列GPU 前後對比(取自NVIDIA官網)

遊戲《黑神話:悟空》套上NVGeForce RTX™ 40 系列GPU 前後對比(取自NVIDIA官網)



留言0
查看全部
avatar-img
發表第一個留言支持創作者!
前陣子柬埔寨、緬甸KK園區新聞排山倒海。第一次邀稿、訪談我的老朋友青,她在台灣、菲律賓從事荷官工作,希望透過她的見聞,讓此風波能有不同的討論。 此文章已完成一個多月,原先投書獨立@天下,但因內容問題最後決定不刊登,讓我思考這份內容是否不夠客觀,但我想青的見聞不會騙人,因此這份內容就一定有它的價值。
我本身是跨域生,大學唸的科系和新聞傳播的專業領域僅能算是擦邊。 但我是很幸運的人,這一年多來受到很多人的幫助,能在榜單上看見自己的名字真的很感動!現在回頭看,仍會覺得當時的自己奮力地不可思議,我們有多努力、流過多少汗與淚永遠只有自己知道,希望所有正在朝目標邁進的考生們,都能收穫美麗的風景。
昨日一個悠閒的午後,我晃著走進誠品想挑本書。瀏覽了一番暢銷書排行榜,仔細端詳一本本熱賣書籍後,突然湧現令人莞爾一笑的矛盾感。 • 我們同時讀著「心靈雞湯」與「毒雞湯」 • 我們到底為何焦慮與矛盾? • 我們可以怎麼緩解焦慮?
透過新聞編採課程,有幸獲得人物採訪機會😊 第二次嘗試深度採訪,身為初踏入記者、新聞領域的小菜鳥,深度訪談的魅力不容小覷!提問、傾聽、梳理內容的過程間接體驗了受訪者的經驗與生命,如此珍貴且發人深省。 而我想,提問力固然重要,傾聽與觀察更是一個好的報導者、傾聽者、說故事的人不可或缺的能力。
寫下這篇文章,單純因為對於前陣子新聞媒體「疫苗的新聞的設定與框架」不認同,相信身為理性閱聽眾的你/妳也是感同身受的。 電視新聞對於疫苗死亡日以繼夜的報導,某種程度上已引起閱聽人恐慌,而不諱言,我自身、周遭親友也不免因新聞各種重複、誇示性闡述而徒增擔憂。           
前陣子柬埔寨、緬甸KK園區新聞排山倒海。第一次邀稿、訪談我的老朋友青,她在台灣、菲律賓從事荷官工作,希望透過她的見聞,讓此風波能有不同的討論。 此文章已完成一個多月,原先投書獨立@天下,但因內容問題最後決定不刊登,讓我思考這份內容是否不夠客觀,但我想青的見聞不會騙人,因此這份內容就一定有它的價值。
我本身是跨域生,大學唸的科系和新聞傳播的專業領域僅能算是擦邊。 但我是很幸運的人,這一年多來受到很多人的幫助,能在榜單上看見自己的名字真的很感動!現在回頭看,仍會覺得當時的自己奮力地不可思議,我們有多努力、流過多少汗與淚永遠只有自己知道,希望所有正在朝目標邁進的考生們,都能收穫美麗的風景。
昨日一個悠閒的午後,我晃著走進誠品想挑本書。瀏覽了一番暢銷書排行榜,仔細端詳一本本熱賣書籍後,突然湧現令人莞爾一笑的矛盾感。 • 我們同時讀著「心靈雞湯」與「毒雞湯」 • 我們到底為何焦慮與矛盾? • 我們可以怎麼緩解焦慮?
透過新聞編採課程,有幸獲得人物採訪機會😊 第二次嘗試深度採訪,身為初踏入記者、新聞領域的小菜鳥,深度訪談的魅力不容小覷!提問、傾聽、梳理內容的過程間接體驗了受訪者的經驗與生命,如此珍貴且發人深省。 而我想,提問力固然重要,傾聽與觀察更是一個好的報導者、傾聽者、說故事的人不可或缺的能力。
寫下這篇文章,單純因為對於前陣子新聞媒體「疫苗的新聞的設定與框架」不認同,相信身為理性閱聽眾的你/妳也是感同身受的。 電視新聞對於疫苗死亡日以繼夜的報導,某種程度上已引起閱聽人恐慌,而不諱言,我自身、周遭親友也不免因新聞各種重複、誇示性闡述而徒增擔憂。           
你可能也想看
Google News 追蹤
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
Thumbnail
11/20日NVDA即將公布最新一期的財報, 今天Sell Side的分析師, 開始調高目標價, 市場的股價也開始反應, 未來一週NVDA將重新回到美股市場的焦點, 今天我們要分析NVDA Sell Side怎麼看待這次NVDA的財報預測, 以及實際上Buy Side的倉位及操作, 從
Thumbnail
Hi 大家好,我是Ethan😊 相近大家都知道保濕是皮膚保養中最基本,也是最重要的一步。無論是在畫室裡長時間對著畫布,還是在旅途中面對各種氣候變化,保持皮膚的水分平衡對我來說至關重要。保濕化妝水不僅能迅速為皮膚補水,還能提升後續保養品的吸收效率。 曾經,我的保養程序簡單到只包括清潔和隨意上乳液
Thumbnail
NVIDIA的新目標:AI晶圓代工 NVIDIA宣布,他們的目標是成為支援企業開發AI應用程式的「AI晶圓代工」。這與接受客戶委託製造半導體的代工廠相似,NVIDIA將提供技術、專業知識和基礎設施,幫助實現AI應用程式。
Thumbnail
NVIDIA的新目標是成為支援企業開發AI應用程式的「AI晶圓代工」,提供技術、專業知識和基礎設施,幫助實現AI應用。具體而言,NVIDIA將提供GPU、自主CPU「Grace」、超級計算機及其硬體,還有軟體和工具,以滿足客戶需求。
Thumbnail
這篇文章探討了NVIDIA在推論式AI半導體市場的挑戰,以及介紹了Intel在AI領域的強化舉措。文章中提到了新興企業可能有機會取代現有市場領導者,並討論了RISC-V技術在AI半導體市場的應用和其他相關動向。
Thumbnail
演講內容關於當前的發展趨勢以及生成式 AI 對各行各業的影響,以及未來展望。演講者提到與臺灣合作夥伴一起將各種產品帶給全世界,並強調有了臺灣和各合作夥伴的支持,才能打造出世界級的 AI 基礎架構。
Thumbnail
NVIDIA的CEO黃仁勳來到台北,發表了一場關於AI(人工智慧)和加速計算的精彩演講。我決定把這場演講的精華部分記錄下來,方便日後回顧和分享。 1. NVIDIA的技術創新 黃仁勳開場時提到,NVIDIA的GPU不僅僅是為了遊戲而設計的。他說:「我們的GPU還能用在AI和數據分析等領域...
Thumbnail
2024年6月2日,NVIDIA 執行長黃仁勳在台灣大學舉辦了一場引人注目的演講。這場演講不僅吸引了眾多重量級企業高層到場聆聽,更在網路上引發了廣泛的討論與關注。演講內容涵蓋了加速運算、人工智慧、新一代 GPU 架構、數位孿生地球計畫等多個重要議題,並突顯了台灣在全球科技產業中的關鍵角色。
Thumbnail
根據高盛最近的研究報告,未來的個人電腦和移動設備將搭載更多由AI增強後的應用程式,如AI增強、安全性提升和運算能力強化。 消費性電子股票組合<GSXUPCAI>也顯示出潛力,並列出了成分股以及其權重。
Thumbnail
Hi 我是 VK~ 這週,來聊聊 NVIDIA 執行長黃仁勳(Jensen Huang)在 Computex 的 Keynote 談到哪些對於 AI 的未來想像? 接著,也會談先前黃仁勳在 Stripe 的訪談,為什麼他會覺得在工作中追求快樂是種誤解?他認為工作本身也會有痛苦,過去 NVIDIA
在今年的COMPUTEX展前演講中,Nvidia的首席執行官黃仁勳宣布了一個令人震驚的消息:Nvidia將從2025年開始每年更新其AI芯片。這一舉動無疑預示著一場新的工業革命正式拉開了序幕。
Thumbnail
NVIDIA 黃仁勳 - AI人工智慧時代如何帶動全球新產業革命(個人紀錄用) 🇺🇸Omniverse 就是未來集大成,而加速運算、人工智慧就是兩個最重要的技術核心 🇺🇸CPU效能的擴充速度正在大幅降低,提出「運算通膨」概念
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
Thumbnail
11/20日NVDA即將公布最新一期的財報, 今天Sell Side的分析師, 開始調高目標價, 市場的股價也開始反應, 未來一週NVDA將重新回到美股市場的焦點, 今天我們要分析NVDA Sell Side怎麼看待這次NVDA的財報預測, 以及實際上Buy Side的倉位及操作, 從
Thumbnail
Hi 大家好,我是Ethan😊 相近大家都知道保濕是皮膚保養中最基本,也是最重要的一步。無論是在畫室裡長時間對著畫布,還是在旅途中面對各種氣候變化,保持皮膚的水分平衡對我來說至關重要。保濕化妝水不僅能迅速為皮膚補水,還能提升後續保養品的吸收效率。 曾經,我的保養程序簡單到只包括清潔和隨意上乳液
Thumbnail
NVIDIA的新目標:AI晶圓代工 NVIDIA宣布,他們的目標是成為支援企業開發AI應用程式的「AI晶圓代工」。這與接受客戶委託製造半導體的代工廠相似,NVIDIA將提供技術、專業知識和基礎設施,幫助實現AI應用程式。
Thumbnail
NVIDIA的新目標是成為支援企業開發AI應用程式的「AI晶圓代工」,提供技術、專業知識和基礎設施,幫助實現AI應用。具體而言,NVIDIA將提供GPU、自主CPU「Grace」、超級計算機及其硬體,還有軟體和工具,以滿足客戶需求。
Thumbnail
這篇文章探討了NVIDIA在推論式AI半導體市場的挑戰,以及介紹了Intel在AI領域的強化舉措。文章中提到了新興企業可能有機會取代現有市場領導者,並討論了RISC-V技術在AI半導體市場的應用和其他相關動向。
Thumbnail
演講內容關於當前的發展趨勢以及生成式 AI 對各行各業的影響,以及未來展望。演講者提到與臺灣合作夥伴一起將各種產品帶給全世界,並強調有了臺灣和各合作夥伴的支持,才能打造出世界級的 AI 基礎架構。
Thumbnail
NVIDIA的CEO黃仁勳來到台北,發表了一場關於AI(人工智慧)和加速計算的精彩演講。我決定把這場演講的精華部分記錄下來,方便日後回顧和分享。 1. NVIDIA的技術創新 黃仁勳開場時提到,NVIDIA的GPU不僅僅是為了遊戲而設計的。他說:「我們的GPU還能用在AI和數據分析等領域...
Thumbnail
2024年6月2日,NVIDIA 執行長黃仁勳在台灣大學舉辦了一場引人注目的演講。這場演講不僅吸引了眾多重量級企業高層到場聆聽,更在網路上引發了廣泛的討論與關注。演講內容涵蓋了加速運算、人工智慧、新一代 GPU 架構、數位孿生地球計畫等多個重要議題,並突顯了台灣在全球科技產業中的關鍵角色。
Thumbnail
根據高盛最近的研究報告,未來的個人電腦和移動設備將搭載更多由AI增強後的應用程式,如AI增強、安全性提升和運算能力強化。 消費性電子股票組合<GSXUPCAI>也顯示出潛力,並列出了成分股以及其權重。
Thumbnail
Hi 我是 VK~ 這週,來聊聊 NVIDIA 執行長黃仁勳(Jensen Huang)在 Computex 的 Keynote 談到哪些對於 AI 的未來想像? 接著,也會談先前黃仁勳在 Stripe 的訪談,為什麼他會覺得在工作中追求快樂是種誤解?他認為工作本身也會有痛苦,過去 NVIDIA
在今年的COMPUTEX展前演講中,Nvidia的首席執行官黃仁勳宣布了一個令人震驚的消息:Nvidia將從2025年開始每年更新其AI芯片。這一舉動無疑預示著一場新的工業革命正式拉開了序幕。
Thumbnail
NVIDIA 黃仁勳 - AI人工智慧時代如何帶動全球新產業革命(個人紀錄用) 🇺🇸Omniverse 就是未來集大成,而加速運算、人工智慧就是兩個最重要的技術核心 🇺🇸CPU效能的擴充速度正在大幅降低,提出「運算通膨」概念