科技一周_Nvidia GTC 2023 關鍵字解讀

2024/03/22閱讀時間約 16 分鐘

我們『用6個關鍵字句』爬梳兩小時多的演講與最新的財報電話會議，整理令我們最有感的內容，做有效的擷取，協助讀者與聽眾快速且深入的了解，期望能產生足以作為行動項目的參考。好，那我們今天就開始吧!

今天的內容是根據五月份的最新一季(2、3、4月季度)財報電話會議，以及黃仁勳在 2023 Computex 的一個半小時的演講作為基底，搭配華爾街日報對於Nvidia 現象的報導，所整理出我認為最重要的六大關鍵字:

👉①Not so simple simple idea- AI generated AI

這個是Jensen在 computex 2023 的keynote 前面五分鐘之內所提到的一個重要概念，但沒有被大部分的媒體所專注報導，為什麼? 可能是因為目前還沒有具體的產品，也可能是因為黃仁勳本身的說法沒有太過於誇張，也可能是沒有媒體可以捕捉的a-ha 或是所謂的iPhone moment ，但是這一個simple idea 卻是影響深遠，和上一次Google CEO 在Google IO 所說的結合，也可以作為我們理解AI 的下一步。

" I am going to talk about for the rest of the talk into that simple idea. That there will be a large computer writing software developing and deploying ([dɪˋplɔɪ] : 部署) software .""That can be deployed in devices all over the world."

到目前為止我們的認知就是說有AI的服務供應商像Open Ai, Canva, Notion，不管是透過網站或者是APP，讓你可以很輕省的完成很多文書作業或者是文字變影像、影像變文字等等，但是這本身還是一個服務的應用型態。

黃仁勳所看到的真正的大趨勢是: 這些系統本身正在產生其他的軟體，還能夠輕易的部署到許多的設備之上 (貼上這篇文章的時間點是2024年3月22日，在2024的GTC當中，黃仁勳確實將這樣的遠見給實現了)；這個背後的系統是一個大型的語言模型，所有的資料，只要是有結構的資料都算是一種語言，音符、圖像、程式語言、化學結構、基因序列，也就是任何形式的資料只要他本身是有規律性的，這一套AI人工智慧的系統都可以研究，進而產生產物，當然就包含產生程式語言、軟體。

如果我們結合上次谷歌執行長所說的超小型的AI模型，叫做壁虎(Gecko)的小型AI ，連離線都可以使用，搭配起來，那也就是說會有一個很像太空母艦，可以製作出各種性能高超技術優異的星際快艇，執行非常多的任務，所以未來的AI會在這一個母體的工廠製作，製造出小型AI 安裝到所有生活周遭的小物身上，都會具有人工智慧的能力。

這個由AI來撰寫AI，並加以派送出去的軟體革命是黃仁勳口中的一大變革，而其中有能力撰寫AI的必定是超級電腦，而該電腦就是運作在輝達的系統之上。如果Google 還有Nvidia 的CEO都這麼說，那麼由AI 工廠製作小型化AI，並且變成無處不在，應該就是一個可靠的AI 的第一個重要趨勢。

👉②accelerated computing virtuous cycle

加速的運算正向循環，黃仁勳利用一張圖表來說明一個加速循環，加速循環是正面的說法，反向也可以被理解為你推動技術變革時，所遇到的阻礙: 一開始要如何啟動一個產業發展循環，是很不簡單的，在產業界我們常常會說這是一個chic and egg的問題，也就是先有雞還是先有蛋的問題。

而能夠突破這一點的，就會成為市場的贏家，在AI的這件事情上面我不認為NVIDIA剛好遇到機會，我會認為他們是在加速運算這塊，打底打了非常多年，持續的投資持續的精進，讓自己的產品永遠保持在最佳的狀態，以至於當新的契機(令人感到興奮的ChatGPT)來臨的時候，他們不但第一個吃到甜頭而且產能全開還不夠用。

那這一個循環是什麼呢?

循環在英文裡面有兩個，一個叫做惡性循環vicious[ˋvɪʃəs] circle，那正向就是virtuos[͵vɝtʃʊˋos]cycle /circle；要有一個應用吸引消費者來使用，才會有龐大的安裝installment base，當有量了之後，才會有更多的軟體開發商在上面做更多的應用，有得更多的應用之後，整體會變成一個更加吸引人的平台。

那麼要怎麼樣有這個數量呢? 首先大家必須喜歡所謂殺手級的應用，而這樣子的殺手機的應用可能一個一二十年，也不會出現幾次。而現在ChatGPT的應用就是一個大家都買單的AI服務。

那個installed base 指的是甚麼? 不是你家的電腦，因為運算不是在你的電腦上運算，而是在超級資料中心，那是新的個人電腦，這就是黃仁勳所說的Data center is the new computer，而那個installed base 所用的，就是Nvidia 的晶片。

所以他的這個循環的意思是甚麼呢? 就是說因為Chatgpt的出現，加速了資料中心的更新的意願與腳步，那麼就能夠吸引更多AI的開發者來開發，因為他們開發的產品可以用更低的成本建構起來以及營運，同時透過新一代的資料中心而可以服務更多人，那就會有更多的使用者基礎 (理論上是這樣)。

原文是這麼說的

“A developer would only come if there is an installed base, without an installed base there would be no developer , without developers there will be no application , this loop has been suffered by so many computing companies.”

AI 這件事情，不只是消費者嘗鮮買單(話說你開始付費使用ChatGPT4了嗎?)，更重要的當服務供應商、大公司、軟體公司大家都買單，當大家都怕輸的時候，且當資料中心成為新的運算單位的時候，大家就會大舉投資在這一塊，也就就會有更多晶片與軟體公司跳進來這個價值環節，並提出改善的方案，長期而言也會讓AI的運算變得更加省電、效能更高、更加便宜。

👉③lowest TCO - total cost of ownership

接下來話鋒一轉，他身為首席業務，必定要告訴台下的聽眾，為什麼要買我的產品，這麼樣的高科技公司的CEO，你猜最後他用甚麼說服大家技術? 專利? 團隊? 都不是

是成本。

我還記得我們自家 CEO 在開發手機的那幾年常常說的一句話，『這些功能都是行銷與消費者買不買單的問題』，但是成本例外，『成本是個硬道理』。那個時候這句成本就是硬道理在我腦中留下深刻的印象。手機的功能在2010~2015之間還是蓬勃的發展，可以說是天花亂墜，但是最終這些花俏炫目的功能，最後，還是必須與價格一同被放在天秤的兩端，來做衡量，所以說成本就是硬道理。

Nvidia 的晶片最便宜嗎? 完全不是。

事實上他的東西貴的很(毛利70%)，但是大家還是買爆，因為資料中心的環境中，新的舊的，各種硬體軟體相容性，彼此連結傳輸問題等等，相當的專業與複雜，黃仁勳就是要告訴你，我們有一整套的軟體系統與一系列的產品家族，運送過去幾周之內就可以上線，但是其他人可能一年也上不了線，這就是他身為業務厲害的地方。

👉④"You should have your own AI factory"

難怪大家會說他是最強的業務員，來聽的在台下的很多都是大老闆，他就做了一個比喻，其實大家開公司都已經是在培育智能，只是這些智能叫做人類智能，包含教育訓練、給予好的組織設計、給予好的電腦軟體等等，就是在培育這些智能人類智能。

但是當這個人工智慧系統能夠快速增長，其增長速度遠超過人類的時候，難到每一間公司不應該建立自己的人工智慧工廠，並且訓練自己的AI 嗎?

光聽他講完我都想要來自己訓練一個AI ，頻道過去每一週產出大概8000字左右的內容，已經寫了4年，52周 x 4年 x 8000字= 80萬字的內容，如果把這些當作data-set ，訓練出的Ai 應該也蠻有意思的，最少可以把過去的相關內容做一個摘要與整理，也是一個很不錯的功能。

"In the future every single major company will also have ai factories and you will build and produce your company's intelligence and it's a very sensible thing.

we cultivate[ˋkʌltə͵vet] 培育 and develop and nourish[ˋnɝɪʃ] 滋養 our employees and continue to create the conditions by which they can do their best work, we are intelligence producers already

In the future we will be intelligence producers and every single company will have factories and the factories will be built this way.

👉⑤ "VectorDB solve the hallucination problem"

我們在之前的文章有提過AI的三大問題: 幻象hallucination、價值觀跟我們不一致(alignment)，還有湧升的行為 (emergent behavior) ，其中的價值觀不一致的問題，透過人為的回饋可以慢慢讓AI 學會與我們的價值觀對齊。

今天在這裡面又聽到一個叫做Vector DB (Vector Database)的東西，他是把資料彼此的相關性用數值表現出來，所以如果把很多資料在一個立體空間中表現出來，就會可以看到很多的點像是星雲依樣，一區一區的，就會更加的呈現彼此的相關性。

據Jensen說這個技術有助於解決人工智慧系統看到幻象的問題。

這個蠻好理解的，就像我們跟小孩子玩比手畫腳猜答案，他們雖然有理解力也有一定的生活經驗，但是有可能回答出完全不相關的內容，如果我們告訴他大概是甚麼領域的答案，出現完全不相關的機率就會大幅降低。

👉⑥The toilet paper during pandemic

疫情期間大家去搶衛生紙，到底是理性還是不理性?

你可能會說不太理性，但是你有沒有參與? 至少我去Costco的時候會多拿個一兩包，那就算是參與了，其實情緒與理性不理性有時候很難區分，先買起來並沒有不對，就像矽谷銀行的存戶把錢轉走，你說是恐慌的bank run，我倒覺得是合理明智的避險動作。

理性跟不理性其實不容易有個二分法。舉個例子來說，這座山有礦脈，因為掏金熱的關係吸引大批的人前往掏金，如果沒有這個熱潮，荒郊野外妳去哪裡找的到便宜的人力? 而這些人一手一隻十字鍬，滿山遍野的去挖，也才找的到礦脈呀! 只要持續的有人挖到黃金，後續加入的人就會源源不絕，也就是說只要有人推出新的AI產品是更強大的，那麼對於AI產業不管硬體或軟體的投資，就暫時都不會歇手。

其實各家廠商追逐AI ，根據華爾街日報所說也有幾分這個味道

就是說在各家電腦公司也好，網路服務供應商也好，臉書谷歌微軟都好，大家都在這個浪潮當中不想要缺席，不想要失去媒體的版面，不想要被邊緣化，不想要被董事會指責為在AI的浪潮中落後，因此每一家或多或少建置自己的雲，或者是到公有雲上面去練自己的AI，提供AI服務給外人或是給自己使用。

上述的種種，都需要購買算力，這個運算力先買起來免得被搶走，沒有要自己建置雲端的就去買別人的雲端上面的運算力，那服務供應商還是得建置算力，因此這個搶購的過程就發生了，除了像是衛生紙，其實也有點像在疫情期間的船的艙位，我們都經歷過貨櫃價格飆漲的那個年代，這個就是現在發生的狀況。

重點還有一個，現在想要搶艙位還有衛生紙的，不是只有當地原來的居民而已，還有一堆新創公司搶著要提供服務，那又加入了搶運算力的行列。

華爾街日報上的一篇文章中有個段落這麼說

“Because there is a shortage, it’s about who you know,” said Sharon Zhou, co-founder and CEO of Lamini, a startup that helps companies build AI models like chatbots. “It’s like toilet paper during the pandemic.”