NVIDIA 2024 GTC 大會重點整理

更新於 2024/03/25閱讀時間約 7 分鐘



raw-image


總結重點

  1. 黃仁勳介紹了 NVIDIA 的全新 Blackwell 計算平台,旨在推動實時生成式人工智慧的應用,以應對多個行業的挑戰。
  2. Blackwell 平台提供了巨大的計算性能升級,包括更高的訓練和推斷效能,以及更快的連接速度和更大的規模。
  3. 黃仁勳強調了 Blackwell 的行業影響,並展示了與該平台相關的主要技術和合作夥伴。
  4. 黃仁勳解釋了生成式人工智慧如何改變軟件創建方式,並介紹了 NVIDIA NIM 微服務的概念,以及它們在不同行業中的應用。
  5. Omniverse Cloud 被提出為將人工智慧引入實際物理世界的工具,並介紹了其相關的新應用程式介面。

介紹了在汽車工業中的應用,包括自動駕駛技術和機器人視覺系統,並展示了 NVIDIA 在機器人領域的最新發展。


黃仁勳對於NVIDIA全新Blackwell計算平台的介紹

黃仁勳,NVIDIA的創辦人兼CEO,在GTC大會上介紹了NVIDIA的最新計算平台——Blackwell,旨在推進實時生成式人工智慧的應用,滿足跨產業的挑戰需求。這一平台將為世界上從軟件開發到服務提供、從機器人技術到醫療技術等各領域帶來巨大的計算能力提升。


黃仁勳強調,加速計算已達到一個轉折點,傳統的通用計算已無法滿足現今的需求,而加速計算提供了一種全新的、在各個產業中都能大幅提速的計算方式。


Blackwell平台的關鍵優勢

Blackwell平台提供了2.5倍於前代的訓練性能(FP8精度)和5倍的推理性能(FP4精度),擁有更快的第五代NVLink互連技術,並能擴展至576個GPU。


NVIDIA GB200 Grace Blackwell Superchip通過900GB/s的超低功耗NVLink芯片間互連技術,將兩個Blackwell NVIDIA B200 Tensor Core GPUs與NVIDIA Grace CPU連接起來,創造出前所未有的計算能力密度。


通過NVIDIA Quantum-X800 InfiniBand和Spectrum-X800 Ethernet平台,提供最高達800Gb/s的先進網絡連接速度。


NVIDIA NIM微服務與Omniverse Cloud的創新應用

NVIDIA NIM(NVIDIA推理微服務)提供了一種新的軟件打包和交付方式,使開發者能夠利用數以億計的GPU來部署各類定制AI應用。


通過Omniverse Cloud API,將人工智慧引入實體世界,為先進模擬功能開辟了新途徑,特別是在建立工業數字孿生應用和工作流程方面。


產業影響與合作夥伴

黃仁勳通過實力強大的演示、與全球最大企業的合作,以及超過20項的公告,凸顯了Blackwell平台對行業的深遠影響。


GTC大會展示了900多個會議環節,涵蓋了從變壓器技術到機器學習、從自動駕駛技術到醫療技術的廣泛話題,展現了AI技術與各領域交叉融合的前景。


Blackwell平台在行業中的應用

在汽車產業,Blackwell平台將推動自動駕駛技術和機器人視覺系統的發展。BYD等領先公司已選擇使用NVIDIA的下一代計算平台,開發其下一代電動車隊。


NVIDIA也在健康護理領域取得重大進展,推出了多達二十多個新的微服務,利用最新的生成式人工智慧技術,為全球醫療企業提供先進的影像處理、自然語言和語音識別,以及數字生物學的生成、預測和模擬功能。這些技術的應用將顯著提升醫療診斷、病理分析和個性化治療計畫的效率與準確性。


透過NVIDIA 6G Research Cloud,這是一個結合生成式AI和Omniverse驅動的平台,旨在推進下一代通信技術的發展,展示了NVIDIA在通訊領域的創新應用。該平台利用NVIDIA的Sionna神經無線框架、NVIDIA Aerial CUDA加速無線接入網絡技術,以及NVIDIA Aerial Omniverse Digital Twin for 6G技術,為6G通訊時代的到來奠定了技術基礎。


在半導體設計和製造領域,NVIDIA與TSMC和Synopsys合作,推出了突破性的計算光刻平台cuLitho,該平台可將半導體製造中最計算密集的工作負載加速40-60倍,展現了NVIDIA在推進半導體製造技術方面的領導地位。


黃仁勳還宣布了NVIDIA Earth Climate Digital Twin,這是一個即時可用的雲平台,它允許進行交互式、高分辨率的模擬,加速氣候和天氣預測的進程,從而對抗全球氣候變化提供了強有力的工具。


Omniverse和物理世界的結合

NVIDIA Omniverse的推出,將AI技術帶入物理世界,為機器人提供了一個數字化的學習和訓練環境。Omniverse Cloud API的推出,讓開發者能夠將核心Omniverse技術直接整合到現有的設計和自動化軟件應用中,為建立數字孿生應用和工作流程,以及測試和驗證如機器人或自動駕駛車輛等自主機器的模擬工作流程提供了簡便的方法。

在機器人技術領域的革新

黃仁勳提到,“未來所有可移動的物體都將是機器人化的”,並且汽車產業將是其中一個重要部分。他介紹了NVIDIA在機器人視覺系統方面的最新發展,如Isaac Perceptor軟件開發套件,以及NVIDIA在機械臂控制技術方面的創新,如Isaac Manipulator。


此外,黃仁勳宣布了Project GR00T,這是一個旨在推動機器人技術和具體AI研究突破的通用基礎模型。支持這一努力的還有新的Jetson Thor計算平台,這是基於NVIDIA Thor系統芯片的,專為人形機器人設計的一款最新的生成式人工智慧技術,這些服務為全球的健康護理企業提供了先進的成像、自然語言和語音識別、以及數字生物學的生成、預測和模擬能力。


此外,NVIDIA在電信行業推出了NVIDIA 6G Research Cloud,這是一個結合了生成式AI和Omniverse的平台,旨在推動下一代通信技術的發展。這一平台利用NVIDIA的Sionna神經無線框架、NVIDIA Aerial CUDA加速的無線接入網和NVIDIA Aerial Omniverse數字孿生技術,為6G通信提供創新的研究和開發工具。


在半導體設計和製造領域,NVIDIA宣布與TSMC和Synopsys合作,將其突破性的計算光刻平台cuLitho引入生產,該平台將半導體製造中最計算密集的工作負載加速40-60倍。


黃仁勳還介紹了NVIDIA Earth Climate Digital Twin,這是一個現已可用的雲平台,通過交互式、高分辨率模擬加速氣候和天氣預測,為瞭解和應對氣候變化提供了強大的工具。


黃仁勳對未來計算和人工智慧的願景

黃仁勳對未來的計算和人工智慧持有明確的願景,認為生成式人工智慧將徹底改變應用程序的編寫方式。未來,公司將組裝AI模型,賦予它們任務,並利用這些模型來創建新的服務和產品。


此外,他強調了NVIDIA在推動人工智慧進入實體世界方面的努力,特別是通過Omniverse平台,為機器人提供了一個學習和訓練的虛擬環境,從而使它們能夠更好地理解和互動與實體世界。


黃仁勳的展望不僅局限於當前技術的發展,他還強調了NVIDIA在為未來的挑戰做準備方面的努力,包括進一步推動計算平台的創新,以及加速人工智慧在更廣泛領域中的應用。


結論

總之,NVIDIA的Blackwell計算平台及相關技術的推出,標誌著一個新時代的來臨,其中加速計算和生成式人工智慧將成為推動各行各業創新和解決方案的關鍵力量。黃仁勳及其團隊展示的願景和成就,不僅展現了技術的進步,也為世界各地的企業和開發者提供了新的機遇和挑戰,預示著一個更加智能和互聯的未來。


本專題將探討科技在投資領域的應用。我們將介紹人工智能、大數據分析和自動化投資工具,並解釋如何利用這些技術來優化投資策略和增加投資回報。透過了解智能投資的趨勢和方法,讀者可以更加精準地進行投資決策,提升投資效率和成果。我們也會介紹不同的投資工具和策略,解釋風險與回報的關係,並提供基本的投資原則和技巧。
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
多接入邊緣運算(MEC)是將計算資源貼近終端用戶的網絡架構,以降低延遲、提升效能。相較於傳統邊緣運算,MEC更針對移動端點,特別適用於5G等高頻寬、低延遲的環境。這種技術影響了車輛連接、AR/VR、醫療設備、遊戲等多個領域,提供更快速、高效的資料處理。
微軟的 Olive 模型優化工具在近期又傳出佳績,在使用 Intel Arc 和 AMD Radeon 硬體上,分別將 Stable Diffusion 模型的效能提升了 2.7 倍和 2.5 倍。顯示 Olive 能夠有效提升 GPU 硬體的運算效率,為機器學習開發人員提供更強大的工具。 什
前一篇我們已經介紹了四個可以去完成的NLP專案, 7 種 NLP 專案,讓你成為自然語言處理好手 (上) 接下來我們繼續分享另外幾個很常使用的專案 機器翻譯 (Machine Translation)
自然語言處理(NLP)已經重新塑造我們與世界各地的資訊互動和機器溝通方式。NLP融合了電腦科學、語言學和人工智慧,致力於讓電腦能夠以反映人類認知的方式理解、解釋和生成人類語言。 對於寫程式的人而言,實戰勝過一切,透過實際參與NLP專案以獲得實務經驗,對於成為優秀的資料科學家或NLP工程師非常重
美國時間 2023 年 11 月 6 日,OpenAI 在美國舊金山舉行了首屆開發者大會。大會上,OpenAI 展示了一系列新產品和服務,其中最引人注目的是 GPT-4 Turbo。 什麼是GPT-4 Turbo GPT-4 Turbo 是 GPT-4 的更強大版本,具有以下改進: 模
在 ChatGPT 出現之前,當我們有問題的時候,絕大多數第一時間都是依賴 Google 來尋找資訊和解決問題。如果在 Google 上找不到答案,除了可能這個問題太冷門以外,我們通常會認為這是因為他們使用了不正確的關鍵字進行搜尋。 然而,隨著AI的崛起,不管你是使用ChatGPT、Bing、
多接入邊緣運算(MEC)是將計算資源貼近終端用戶的網絡架構,以降低延遲、提升效能。相較於傳統邊緣運算,MEC更針對移動端點,特別適用於5G等高頻寬、低延遲的環境。這種技術影響了車輛連接、AR/VR、醫療設備、遊戲等多個領域,提供更快速、高效的資料處理。
微軟的 Olive 模型優化工具在近期又傳出佳績,在使用 Intel Arc 和 AMD Radeon 硬體上,分別將 Stable Diffusion 模型的效能提升了 2.7 倍和 2.5 倍。顯示 Olive 能夠有效提升 GPU 硬體的運算效率,為機器學習開發人員提供更強大的工具。 什
前一篇我們已經介紹了四個可以去完成的NLP專案, 7 種 NLP 專案,讓你成為自然語言處理好手 (上) 接下來我們繼續分享另外幾個很常使用的專案 機器翻譯 (Machine Translation)
自然語言處理(NLP)已經重新塑造我們與世界各地的資訊互動和機器溝通方式。NLP融合了電腦科學、語言學和人工智慧,致力於讓電腦能夠以反映人類認知的方式理解、解釋和生成人類語言。 對於寫程式的人而言,實戰勝過一切,透過實際參與NLP專案以獲得實務經驗,對於成為優秀的資料科學家或NLP工程師非常重
美國時間 2023 年 11 月 6 日,OpenAI 在美國舊金山舉行了首屆開發者大會。大會上,OpenAI 展示了一系列新產品和服務,其中最引人注目的是 GPT-4 Turbo。 什麼是GPT-4 Turbo GPT-4 Turbo 是 GPT-4 的更強大版本,具有以下改進: 模
在 ChatGPT 出現之前,當我們有問題的時候,絕大多數第一時間都是依賴 Google 來尋找資訊和解決問題。如果在 Google 上找不到答案,除了可能這個問題太冷門以外,我們通常會認為這是因為他們使用了不正確的關鍵字進行搜尋。 然而,隨著AI的崛起,不管你是使用ChatGPT、Bing、
你可能也想看
Google News 追蹤
Thumbnail
*合作聲明與警語: 本文係由國泰世華銀行邀稿。 證券服務係由國泰世華銀行辦理共同行銷證券經紀開戶業務,定期定額(股)服務由國泰綜合證券提供。   剛出社會的時候,很常在各種 Podcast 或 YouTube 甚至是在朋友間聊天,都會聽到各種市場動態、理財話題,像是:聯準會降息或是近期哪些科
Thumbnail
3天內YouTube 觀看量已突破1300萬次,值得一看! 回顧片段畫面 以下為NVIDIA GTC大會影片片段截圖,提供給有興趣的人初步了解演講主題,官方影片很精彩。
Thumbnail
NVIDIA (輝達) 的 2024 GTC AI 技術大會 黃仁勳先生介紹了 AI 晶片最新的技術發展 三個表達亮點: 1. 擅長用「比較性字眼、對比數據」的方式展現成果 2. 介紹新產品或技術時,不斷強調「這樣做的目的跟好處是甚麼」,增加說服力 3. 用「一般人可以懂的比喻」解釋某個抽象概念
Thumbnail
今天看了GTC 2024的精華版,回想1995年代開始,家裡的電腦算力越來越強,開始推動很多以前需要勞力或腦力的工作,效率大幅提昇。到2000年初,還記得手機從原本只有打電話的功能,開始整併聽音樂、翻譯機,甚至到相機,出門變成只要一台手機就能行走天下,這些都拜算力提升所賜。 GTC 2024,
Thumbnail
搜尋.......支援的driver: apt search nvidia-drive 最新支援到545,我們來裝545好了(通常我會選擇前一版,我也建議選前一版,像是python12 我們就選python11) sudo apt install nvidia-driver-545 sudo
Thumbnail
大家好,維繫全村希望的NVIDIA財報於今天台灣時間凌晨出爐,無論是EPS和營收都優於預期,並且對未來發給予非常正向樂觀的回應,盤後股價一改頹勢,最多漲幅觸及10%。 這份成績單無疑打臉許多看衰的人。 ★2024FY收入為609億美元,年增126%。
Thumbnail
Nvidia在第四季度財報顯示出強勁表現,超出華爾街預期的盈利和銷售,尤其AI和數據中心業務取得重要突破。然而,供應鏈和數據中心挑戰尚需解決。
Thumbnail
本文摘要: 1. 輝達最新財報(截至2023年2月~2024年1月)。 2. 數據中心營收成長以及毛利變化。 3. 未來數據中心展望。
Thumbnail
*合作聲明與警語: 本文係由國泰世華銀行邀稿。 證券服務係由國泰世華銀行辦理共同行銷證券經紀開戶業務,定期定額(股)服務由國泰綜合證券提供。   剛出社會的時候,很常在各種 Podcast 或 YouTube 甚至是在朋友間聊天,都會聽到各種市場動態、理財話題,像是:聯準會降息或是近期哪些科
Thumbnail
3天內YouTube 觀看量已突破1300萬次,值得一看! 回顧片段畫面 以下為NVIDIA GTC大會影片片段截圖,提供給有興趣的人初步了解演講主題,官方影片很精彩。
Thumbnail
NVIDIA (輝達) 的 2024 GTC AI 技術大會 黃仁勳先生介紹了 AI 晶片最新的技術發展 三個表達亮點: 1. 擅長用「比較性字眼、對比數據」的方式展現成果 2. 介紹新產品或技術時,不斷強調「這樣做的目的跟好處是甚麼」,增加說服力 3. 用「一般人可以懂的比喻」解釋某個抽象概念
Thumbnail
今天看了GTC 2024的精華版,回想1995年代開始,家裡的電腦算力越來越強,開始推動很多以前需要勞力或腦力的工作,效率大幅提昇。到2000年初,還記得手機從原本只有打電話的功能,開始整併聽音樂、翻譯機,甚至到相機,出門變成只要一台手機就能行走天下,這些都拜算力提升所賜。 GTC 2024,
Thumbnail
搜尋.......支援的driver: apt search nvidia-drive 最新支援到545,我們來裝545好了(通常我會選擇前一版,我也建議選前一版,像是python12 我們就選python11) sudo apt install nvidia-driver-545 sudo
Thumbnail
大家好,維繫全村希望的NVIDIA財報於今天台灣時間凌晨出爐,無論是EPS和營收都優於預期,並且對未來發給予非常正向樂觀的回應,盤後股價一改頹勢,最多漲幅觸及10%。 這份成績單無疑打臉許多看衰的人。 ★2024FY收入為609億美元,年增126%。
Thumbnail
Nvidia在第四季度財報顯示出強勁表現,超出華爾街預期的盈利和銷售,尤其AI和數據中心業務取得重要突破。然而,供應鏈和數據中心挑戰尚需解決。
Thumbnail
本文摘要: 1. 輝達最新財報(截至2023年2月~2024年1月)。 2. 數據中心營收成長以及毛利變化。 3. 未來數據中心展望。