付費限定
Nvidia 一夫當關救科技股，黃仁勳說了什麼讓火箭升空？
更新於 發佈於 閱讀時間約 14 分鐘
投資理財內容聲明
- 文內如有投資理財相關經驗、知識、資訊等內容，皆為創作者個人分享行為。
- 有價證券、指數與衍生性商品之數據資料，僅供輔助說明之用，不代表創作者投資決策之推介及建議。
- 閱讀同時，請審慎思考自身條件及自我決策，並應有為決策負責之事前認知。
- 方格子希望您能從這些分享內容汲取投資養份，養成獨立思考的能力、判斷、行動，成就最適合您的投資理財模式。
比扯鈴還扯的 Nvidia，因為給出了爆炸性的財測 Q2營收，預計年增64%至創紀錄的110億，遠超預期的71億，盤後大暴漲超過24%。之前覺得Nvidia可能會遭遇現實營收轉換的Reality check，但現實其實出乎意料的強大比做夢還強。
NVDA Q1的財報重點
- 營收：-13%至72億 > 預期 65.2億
- EPS：$1.09 > 預期 0.92
- 數據中心營收：+14%至 42.8億 > 預期 39億
- 遊戲部門營收：-38%至 22.4億 > 預期 19.8億
- 汽車部門營收：+114%至2.9億
- 23Q2營收財測：110億 > 預期 71.5 億
- 23Q2毛利率：70% > Q1 的66.8%
NVIDIA創始人兼CEO黃仁勳表示，電腦產業正經歷兩個同時的轉變：加速運算和生成AI。全球價值一兆美元的已安裝數據中心基礎設施，將從一般目的轉變為加速運算，因為公司競相將生成AI應用到每一個產品、服務和業務流程中。
如果用過去5年的Q2營收規模，你就可以看出Nvidia對於下一季Q2的營收成長是另一個等級的提升，也超出了市場預期71億很多，因為大部分的半導體公司仍遭遇PC行業逆風，即便數據中心的收入也較平緩。
例如AMD之前給出的Q2財測是年減-20%，和Nvidia給出的預期差距非常巨大。當然Nvidia在AI運算的地位與產品的需求，是無庸置疑的AI領頭羊。
就連在財報電話會議中，Nvidia提到「AI」的次數都遠比其他科技巨頭多得多，這次Q1財報更是講了幾乎上百次 AI，比微軟還多了一倍。這邊整理給大家黃仁勳講了哪些重點。
Nvidia的3種主要的AI客戶：
- 雲端服務提供商（CSP）：CSP 競相部署我們的旗艦 Hopper 和 Ampere 架構 GPU，以滿足企業和消費者 AI 應用程序對訓練和推理的興趣激增。多個 CSP 宣佈在其平台上提供 H100，包括在 Microsoft Azure、Google Cloud 和 Oracle Cloud Infrastructure以及AWS也即將推出
- 消費者互聯網公司：採用生成式AI和基於深度學習的推薦系統，推動強勁增長。例如，Meta 現在為其 AI 生產和研究團隊部署了由 H100 驅動的 Grand Teton AI 超級計算機。
- 企業 Enterprise：企業對AI和加速運算的需求旺盛。我們看到了汽車、金融服務、醫療保健和電信等垂直領域的發展勢頭，AI和加速計算正迅速成為客戶創新路線圖和競爭定位中不可或缺的一部分。例如，Bloomberg 宣布擁有一個 500 億參數模型 BloombergGPT，以幫助處理金融自然語言處理任務，例如情感分析、命名實體識別、新聞分類和問答。
如同 iPhone 時刻 的 ChatGPT 時刻來臨
如同 iPhone Moment，在ChatGPT Moment來臨時，所有技術都匯集在一起，讓人們認識到它可以成為一種驚人的產品，擁有什麼能力。NVIDIA在ChatGPT時刻已全面生產Ampere和Hopper。
我們大量生產超級計算機，這些都是巨大的系統，我們大量生產它們。它包括GPU，但在我們的GPU上，系統板有35000個其他組件。並且還有網絡，和光纖，還有收發器和NIC，Smart NIC，交換機，所有這些都必須組合在一起，我們才能建立一個數據中心。所以當那ChatGPT時刻來臨時，我們已經全面生產。我們必須在下半年大幅增加我們的採購。
關於強勁的需求對於競爭格局有沒有影響，會在定製ASIC 、其他GPU解決方案引發更多競爭嗎？
關於競爭，Nvidia 面臨來自各方的競爭。有非常多資金的公司和創新的初創公司，數不勝數，遍布全球。我們面對來自現有半導體公司的競爭。我們也面對來自內部項目的CSP的競爭。我們一直都在注意競爭，並且一直都在面臨競爭。但是NVIDIA的核心價值主張是，我們是最低成本的解決方案。我們是最低TCO（Total Cost Ownership）的解決方案。
以下是幾個要點：
- 加速計算的挑戰：我們需要優化整個技術堆棧，包括s oftware、libraries、algorithms，並將它們整合並優化於架構中，不僅僅是一個芯片，而是整個數據中心的架構。這個過程中的工程學和分布式計算工作相當龐大。
- 生成式AI的規模問題：生成式 AI 是一個大規模問題，是一個數據中心規模的問題。換句話說，電腦就是數據中心，數據中心就是電腦，這在以前從未發生過。在這種情況下，你需要理解並運營整個系統，包括網路操作系統、分布式計算引擎、網路設備的架構、交換機和計算系統、運算布局等。
- 利用率和多樣性：我們能夠加速的應用程式的類型和數量多，這使得我們的利用率非常高。如果你只能做一件事，並且非常快，那麼你的數據中心基本上是閒置的，並且很難擴展。我們能夠加速許多堆棧，使我們的利用率非常高。
- 數據中心的專業知識：我們自己建立了五個數據中心，並且我們幫助全世界的公司建立數據中心，並將我們的架構整合到全世界的雲端中。我們的產品從交付到部署的時間非常短。如果你對此不熟練，建立一個超級電腦可能需要數月。一些世界上最大的超級電腦在一年半前就已經安裝好了，現在才開始運行，所以從交付到營運可能需要大約一年的時間。
- 我們的交付到運營時間只需幾週。我們已經將數據中心和超級電腦轉變成了產品，Nvidia團隊在這方面的專業知識是令人難以置信的。所以，Nvidia 的價值主張就是，所有這些技術，最終都會轉化為基礎設施，Nvidia 提供最高的吞吐量和最低可能的成本。
推理（Inference）是否比訓練（Training）要大得多？
黃仁勳的回答是，訓練永遠不會結束。每次部署時，都會收集新的數據，並且會使用新的數據進行訓練。所以，訓練不會結束。大語言模型、向量數據庫的建立，和處理以及所有收集到的結構化或非結構化數據的向量化也都不會結束。
無論是建立推薦系統、大語言模型還是向量數據庫，這可能是未來計算的三個主要應用，也是三個核心引擎。他們總是在運行。
越來越多的公司會意識到他們擁有一個智能工廠，這個工廠主要致力於訓練、處理數據、向量化數據以及學習數據的表示等工作。
生成式AI API 大串聯的時代
而推理的部分，則是透過可以連接到各種應用的開放API，或者是整合到工作流程中的API來實現。公司內部會有數百種API，一些是他們自己建立的，一些可能來自於我們在AI Foundations中合作的公司，如ServiceNow和Adobe。
這些公司將創建大量的生成 AI API，其他公司可以將其連接到自己的工作流程中或作為應用程序使用。當然，還會有大量的互聯網服務公司。
因此，我們可以看到，AI工廠領域的增長非常顯著，而且與此同時，一個以前不存在的市場——透過API進行AI推理的市場——現在正在以每週都在增長的速度成長。
最簡單的想法是，世界上有價值1兆美元的數據中心設施，它們以前100%都是使用中央處理單元(CPU)。然而，未來我們知道，現在已經有足夠多的地方聽到了摩爾定律的結束。
現在已經有很多地方看到，你不能合理地用通用計算來擴展數據中心，而加速計算是前進的道路，而且現在已經有了一個殺手級的應用，那就是生成式 AI。
因此，最簡單的想法是，你的1兆美元的基礎設施，每個季度的資本支出預算都會大量投入到生成 AI 和加速計算基礎設施中，從資本支出預算中使用的GPU數量，到連接所有這些部分的加速交換器和加速網路晶片。
最簡單的想法是，在接下來的四五年，甚至十年內，這1兆美元的大部分，以及調整後考慮到數據中心的所有增長，都將主要是生成 AI。這可能是最簡單的思考方式，這包括訓練和推理。
LLM大型語言模型確實是一個很大的機會，但雲端客戶如何將每次查詢的成本大幅降低？
無論你從哪裡開始，都可以先建立一個大型語言模型，然後使用這個大型語言模型，你可以將它們提煉成中等大小、小型和微型的模型。
這些微型的模型可以放在你的手機和PC等等，它們都有很好的功能--這似乎很令人驚訝，但它們都能做到同樣的事情。
但顯然，大型語言模型的通用性最為全面，它可以做更多令人驚嘆的事情。大型模型會教導較小的模型如何成為良好的AI，所以，你用大型模型來生成提示，以便調整較小的模型，依此類推。所以你要先建立很大的模型，然後也要訓練一大堆較小的模型。
另一個重要的事情是，這些都是模型，但它們最終都連接到應用程式。而應用程式可以有影像輸入/輸出、影片輸出/輸入、文字輸出/輸入，未來可能會有3D圖形輸出。
所以，輸入和輸出需要大量的預處理和後處理。預處理和後處理不能被忽視。模型本身只佔推理總處理量的大約25%，其餘部分是預處理和後處理、安全性、解碼等等。
所以，我認為推理的多模態性，推理的多元性，這將在雲端、內部完成，也將在多雲中完成，這就是為什麼我們在所有雲中都有AI企業的原因。這將在內部完成，這就是為什麼我們和Dell有一個很好的合作關係，我們前幾天剛剛宣布了一個名為Helix的項目。這將被整合到第三方服務中，這也是為什麼我們和ServiceNow以及Adobe有良好合作關係的原因，因為他們將創建一系列的生成式AI功能。
因此，這所有的多樣性，生成式AI的廣度如此之大，你需要有一些我剛剛描述的非常基本的能力，才能真正解決其所有的問題。
結語
電腦產業正在經歷兩個同時的轉變，加速計算和生成式AI。CPU規模化已經放緩，然而計算需求強勁，現在又有生成式AI的超級加持。
加速計算，NVIDIA首創的全棧和數據中心規模的方法，是最佳的前進路徑。全球數據中心基礎設施已投入1兆美元，基於上一個時代的通用計算方法。公司現在正在競相部署加速計算，以迎接生成式AI時代。在未來的十年裡，世界上大多數的數據中心將被加速。
我們正在大幅增加供應以滿足激增的需求。大型語言模型可以學習以多種形式編碼的信息。在大型語言模型的引導下，生成式AI模型可以生成驚人的內容，並且有模型來微調，設置護欄，根據指導原則進行對齊，並確定事實，生成式AI正在從實驗室走向工業應用。
在我們與雲和互聯網服務提供商的規模擴大的同時，我們也正在為全球最大的企業構建平台。無論是在我們的CSP合作夥伴之一，還是在Dell Helix的on-prem，無論是在ServiceNow和Adobe等領先的企業平台，還是在NVIDIA AI Foundations的定製，我們都可以幫助企業利用他們的領域專業知識和數據，安全且安全地利用生成式AI。
我們將在未來幾個季度中推出一系列產品，包括H100，我們的Grace和Grace Hopper超級芯片，以及我們的BlueField-3和Spectrum 4網絡平台。它們都在生產中。他們將幫助實現數據中心規模的計算，同時也是節能和可持續計算。下週在COMPUTEX上加入我們，我們將向您展示下一步是什麼。
Nvidia的驚人估值是瘋狂還是合理？
以行動支持創作者！付費即可解鎖
本篇內容共 5616 字、0
則留言，僅發佈於IEO 國際財經科技前沿觀察你目前無法檢視以下內容，可能因為尚未登入，或沒有該房間的查看權限。
9.1K會員
252內容數
每天閱讀大量資訊的 IEObserve 國際經濟觀察，為你介紹最新的國際財經、政治與科技趨勢潮流和商業分析，從資本市場國際股市切入，介紹與分析影響世界的巨無霸公司，以及哪些成長飛速的新創與高成長公司，正在悄悄改變世界。適合想獲取最新世界不同產業趨勢與經濟變化相關資訊的好學者。
留言0
查看全部
你可能也想看
Google News 追蹤
/
大家現在出門買東西還會帶錢包嗎
鴨鴨發現自己好像快一個禮拜沒帶錢包出門
還是可以天天買滿買好回家(?
因此為了記錄手機消費跟各種紅利優惠
鴨鴨都會特別注意銀行的App好不好用！
像是介面設計就是會很在意的地方
很多銀行通常會為了要滿足不同客群
會推出很多App讓使用者下載
每次
輝達（NVIDIA）執行長黃仁勳在臺大體育館演講，揭露了未來幾年新產品的開發計劃，包括下一代GPU平臺Rubin的預告、推論微服務NIM的發布以及在氣候預測領域的應用。演講中，黃仁勳也提及數位人AI技術的運用和潛力，以及與合作夥伴的合作。未來展望和新產品的揭露顯示著輝達對於AI技術發展的積極態度。
NVIDIA的CEO黃仁勳來到台北，發表了一場關於AI（人工智慧）和加速計算的精彩演講。我決定把這場演講的精華部分記錄下來，方便日後回顧和分享。
1. NVIDIA的技術創新
黃仁勳開場時提到，NVIDIA的GPU不僅僅是為了遊戲而設計的。他說：「我們的GPU還能用在AI和數據分析等領域...
在今年的COMPUTEX展前演講中，Nvidia的首席執行官黃仁勳宣布了一個令人震驚的消息：Nvidia將從2025年開始每年更新其AI芯片。這一舉動無疑預示著一場新的工業革命正式拉開了序幕。
NVIDIA 黃仁勳 - AI人工智慧時代如何帶動全球新產業革命（個人紀錄用）
🇺🇸Omniverse 就是未來集大成，而加速運算、人工智慧就是兩個最重要的技術核心
🇺🇸CPU效能的擴充速度正在大幅降低，提出「運算通膨」概念
全世界最矚目的 AI 概念第一股 NVIDIA 輝達，正式在上周發布了 2024 第一季的財報 (公司財務年度為 2025 Q1，實際日期為 2024 二月到四月期間)，再次繳出了擊敗市場預期的成績單。而在財報之後，華爾街也給出了熱烈的回應，NVIDIA 的股價正式突破 1000 美元大關.....
Nvidia CEO黃仁勳成功將傳統固定功能的GPU轉型成programmable GPU，讓公司股價20年內上漲1000倍。機械挖礦和區塊鏈2.0發展讓Nvidia的客戶群變化，黃仁勳押注在通用型GPU上的策略奏效，推動AI的重生。
NVIDIA在人工智慧處理專用GPU領域的地位牢固，但面臨著來自英特爾和超微半導體等競爭對手的反擊。新興企業也加入競爭，使得競爭更加激烈。未來，合作關係將變得至關重要，NVIDIA和其他競爭對手在激烈的競爭中脫穎而出的關鍵。
人工智慧晶片龍頭輝達 NVIDIA，在上個月底正式發布了去年第四季的財報 (公司財務年度為 2024 Q4，實際日期是從去年十一月到今年一月底)。原本外界對於這份財報，就已經抱持著高度的期待，畢竟 AI 的熱潮所有人都可以親身感受的到......
Nvidia在第四季度財報顯示出強勁表現，超出華爾街預期的盈利和銷售，尤其AI和數據中心業務取得重要突破。然而，供應鏈和數據中心挑戰尚需解決。
/
大家現在出門買東西還會帶錢包嗎
鴨鴨發現自己好像快一個禮拜沒帶錢包出門
還是可以天天買滿買好回家(?
因此為了記錄手機消費跟各種紅利優惠
鴨鴨都會特別注意銀行的App好不好用！
像是介面設計就是會很在意的地方
很多銀行通常會為了要滿足不同客群
會推出很多App讓使用者下載
每次
輝達（NVIDIA）執行長黃仁勳在臺大體育館演講，揭露了未來幾年新產品的開發計劃，包括下一代GPU平臺Rubin的預告、推論微服務NIM的發布以及在氣候預測領域的應用。演講中，黃仁勳也提及數位人AI技術的運用和潛力，以及與合作夥伴的合作。未來展望和新產品的揭露顯示著輝達對於AI技術發展的積極態度。
NVIDIA的CEO黃仁勳來到台北，發表了一場關於AI（人工智慧）和加速計算的精彩演講。我決定把這場演講的精華部分記錄下來，方便日後回顧和分享。
1. NVIDIA的技術創新
黃仁勳開場時提到，NVIDIA的GPU不僅僅是為了遊戲而設計的。他說：「我們的GPU還能用在AI和數據分析等領域...
在今年的COMPUTEX展前演講中，Nvidia的首席執行官黃仁勳宣布了一個令人震驚的消息：Nvidia將從2025年開始每年更新其AI芯片。這一舉動無疑預示著一場新的工業革命正式拉開了序幕。
NVIDIA 黃仁勳 - AI人工智慧時代如何帶動全球新產業革命（個人紀錄用）
🇺🇸Omniverse 就是未來集大成，而加速運算、人工智慧就是兩個最重要的技術核心
🇺🇸CPU效能的擴充速度正在大幅降低，提出「運算通膨」概念
全世界最矚目的 AI 概念第一股 NVIDIA 輝達，正式在上周發布了 2024 第一季的財報 (公司財務年度為 2025 Q1，實際日期為 2024 二月到四月期間)，再次繳出了擊敗市場預期的成績單。而在財報之後，華爾街也給出了熱烈的回應，NVIDIA 的股價正式突破 1000 美元大關.....
Nvidia CEO黃仁勳成功將傳統固定功能的GPU轉型成programmable GPU，讓公司股價20年內上漲1000倍。機械挖礦和區塊鏈2.0發展讓Nvidia的客戶群變化，黃仁勳押注在通用型GPU上的策略奏效，推動AI的重生。
NVIDIA在人工智慧處理專用GPU領域的地位牢固，但面臨著來自英特爾和超微半導體等競爭對手的反擊。新興企業也加入競爭，使得競爭更加激烈。未來，合作關係將變得至關重要，NVIDIA和其他競爭對手在激烈的競爭中脫穎而出的關鍵。
人工智慧晶片龍頭輝達 NVIDIA，在上個月底正式發布了去年第四季的財報 (公司財務年度為 2024 Q4，實際日期是從去年十一月到今年一月底)。原本外界對於這份財報，就已經抱持著高度的期待，畢竟 AI 的熱潮所有人都可以親身感受的到......
Nvidia在第四季度財報顯示出強勁表現，超出華爾街預期的盈利和銷售，尤其AI和數據中心業務取得重要突破。然而，供應鏈和數據中心挑戰尚需解決。