筆記-24.03.25-科技財知道
筆記-24.03.25-科技財知道
*輝達想做的事情非常多，包括AI GPU的算力提供(GB200)、協助半導體製造(cuLitho)、車用晶片(Drive Thor)、機器人開發平台(GR00T)、元宇宙等物理模擬(Omniverse)。*GB200 = 2個B100+1個Grace CPU。-GH200 = 1個H100+1個Grace CPU。
*36個GB200 = GB200 NVL72(共有72顆GPU、實際上有144顆B100)。
-32個GH200 = GH200 DGX(共有32顆H100)。
*DGX B200，為8顆B200，每個B200 是由2個B100組成
-DGX H100，為8顆H100
*GB200，一個伺服器機櫃 共有144顆B100
-GH200，一個伺服器機櫃 共有32顆H100，
GB200在GPU數量上提升4.5倍，加上每一個B100的效率比H100多30%，整體效能大約提升5倍。
*Blackwell Transformer Engine，實現FP4(4位元浮點)的AI訓練或推論，讓模型的效能加倍，同時保持高精確性。
*之前AI運算比較常看到的是FP8，可以降低精度、來加快運算速度。
精度不同，位數不同。
數字由 整數位 與 小數位(尾數位)組成。
FP16 小數位比較多
BF16 整數位比較多，看訓練場景需要用哪一種。
--FP8 位數更小，雖然精度比較低、但還OK，用比較低的精度，來加速訓練速度。
*AMD MI300X，在AI訓練上，比不贏GB200。
AMD在AI伺服器方面 比不贏輝達。
*AMD MI300X的優勢: 不在AI運算，而在HPC效能。
國家級實驗室，做氣象預測，需要高精度，FP 64的表現上比H100好。AMD較便宜，也有CP值較佳的優勢。
--超級電腦，除了AI運算之外，還要HPC。
*cuLitho，加速晶片製造的函式庫，
可以讓台積電加速光罩的修正速度，
會變成光罩製造流程的重要一環。
--台積電 輝達 新思，一起合作 關係緊密。
*目前主流的車用晶片: 1.MCU控制晶片
2.智能駕駛座艙晶片(智駕座艙晶片)，
車裡的電子元件持續增加，娛樂螢幕、抬頭顯示器、廣播收音機、中控顯示螢幕、後座顯示器，都需要算力提供，把這些晶片整合在同一個晶片 = 智駕座艙晶片。
--智駕座艙晶片 的主流晶片，
新興車企 螢幕多，主流晶片: 高通8155/8295、驍龍6系/8系
傳統車企 螢幕少，主流晶片: NXP/TI/瑞薩(御三家)。
3.自動駕駛晶片，
高階自動駕駛，主流晶片: Nvidia Orin、高通Ride、華為MDC系列
中低階自動駕駛(L1-L2)，主流晶片: Mobileye EyeQ4、地平線征程J3
*有些新興車企 是用高通8155/8295 (智駕座艙晶片) + Nvidia Orin(自動駕駛晶片)。
--輝達推出了Drive Thor晶片，要把這兩個晶片 合成一個晶片。用在吉利汽車、比亞迪。
--對於高通的打擊大，因為比亞迪是高通的智駕座艙晶片大客戶，
高通的Ride Flex也是把智駕晶片+ 自動駕駛晶片做結合。
之後輝達 與高通在車用晶片上終須一戰。
*通用機器人: 輝達要提供機器人廠商一整包的服務，有機器人晶片Jetson Thor、機器人模擬平台Isaac、機器人基礎模型GR00T。
--輝達之前就有Isaac機器人模擬平台(基於Omniverse平台，Omniverse的物理引擎可以模擬出真實世界的物理場景)，模擬機器人走路等動作，類似半導體的EDA工具。
--輝達GR00T，是個基礎模型，可以通用於各家機器人廠商。
--有些機器人廠商的專業在手臂、動力系統，在沒有AI相關或基礎語言模型的優勢。
--Jetson Thor，為給機器人用的晶片，提供GPU算力。
*特斯拉要自產自銷機器人產品，輝達要做的是開發機器人的平台與工具。
*輝達把Omniverse導入apple Vision Pro裡面，在AR VR MR上面的模擬應用。
