AMD挑戰NVIDIA的AI晶片大戰
Instinct MI300系列AI晶片
Instinct MI300系列AI晶片分為MI300A和MI300X兩款，都採用CDNA 3 GPU架構和24個Zen 4 CPU核心，但有不同的設計和定位。
MI300A是資料中心首款APU，也就是集成了CPU和GPU的產品，主要針對AI和HPC（高效能運算）的加速運算。它內含1400億個電晶體，採用5或6奈米製程，支援第4代Infinity架構的3D封裝技術，可以將多個晶片堆疊在一起，提高運算密度和效率。它支援128GB HBM3記憶體，每秒達到2.6TB的記憶體頻寬，以及448GB/s的互連頻寬。相比於先前的Instinct MI250，它有8倍的效能提升和5倍的能源效率提升¹。
MI300X則是專門針對生成式AI的加速器產品，也就是用來處理大型語言模型（LLM）等需要大量記憶體和帶寬的應用。它內含1530億個電晶體，採用CDNA 3架構，不同於MI300A混合CPU和GPU，MI300X是純GPU產品，可以支援最高192GB HBM3記憶體，每秒達到5.2TB的記憶體頻寬，以及896GB/s的互連頻寬²。這些數字都超過了NVIDIA目前最強的AI晶片H100³。MI300X可以支援最多800億個參數的LLM²，而H100只能支援400億個參數。
AMD執行長蘇姿丰在發表會上展示了MI300X的實際應用，她使用了一個400億個參數的LLM來生成一首關於舊金山這座城市的詩²。她表示，這是第一次LLM可以在單一GPU的記憶體執行²。她還表示，通過AMD Infinity連接8個MI300X組成Instinct平臺，可以支援1.5TB的記憶體容量，打造更大的生成式AI訓練和推論環境²。
MI300A已經開始送樣，預計在今年第四季出貨¹。MI300X則預計在今年第三季送樣，第四季正式量產²。
AMD的AI策略和生態系
AMD的AI策略是在各種硬體上提供AI運算功能，從資料中心的CPU和GPU，到邊緣運算和智慧終端裝置的CPU和GPU，都具備AI訓練或推論的能力。但是要發揮這些硬體的功能，還需要提供各種軟體堆疊平臺，讓硬體更容易被部署和使用。AMD也與AI產業的夥伴合作，共同創新和推動AI技術和標準的發展，建立一個完整的AI生態系。
AMD針對不同運算硬體提供了不同的AI軟體平臺，例如針對EPYC處理器的ZenDNN，針對Instinct GPU的ROCm，以及針對邊緣和終端運算裝置的Vitis AI。這些軟體平臺都支援各種AI模型、框架和工具，例如PyTorch、TensorFlow、ONNX等，讓開發者可以更方便地使用AMD的硬體來開發和部署AI應用。
AMD也與各種AI模型開發商合作，例如專門開發各種LLM的Hugging Face，優化AI模型在AMD硬體上的執行效率和準確度。此外，AMD也與各種雲端服務商、伺服器廠商、系統整合商等合作，提供客製化的AI解決方案，滿足不同行業和場景的需求。
結語
今天我跟大家分享了AMD在舊金山發表會上推出的Instinct MI300系列AI晶片，以及AMD在AI領域的策略和生態系。我個人認為，這是一個非常重要的里程碑，也是一個非常有挑戰性的市場。AMD在AI晶片上展現了自己的創新能力和競爭力，尤其是在生成式AI這個高成長且高價值的領域。我希望AMD能夠繼續保持這樣的優勢，並在未來創造更多的價值和貢獻。
如果您對這個話題有興趣或想法，歡迎在下方留言和我交流。也歡迎您訂閱我的部落格，我會定期更新更多關於科技和投資的文章。謝謝您的閱讀和支持！
(1) 如何看待AMD发布Instinct MI300X GPU芯片？是否在大模型时代威胁Nvidia地位? - 知乎. https://www.zhihu.com/question/606505567.
(2) 【舊金山AMD發表會直擊】AMD發表AI加速器Instinct MI300X，挾更大記憶體、更高記憶體頻寬瞄準生成式AI加速運算 .... https://www.ithome.com.tw/news/157330.
(3) AMD 發布 Instinct MI300A、MI300X AI 晶片挑戰 Nvidia - 香港 unwire.hk. https://unwire.hk/2023/06/14/amd-instinct-mi300a-mi300x/fun-tech/.
#收入 #存股 #投資理財 #賺錢 #財富自由 #投資 #台股 #股票 #退休 #金融 #財產 #發財 #被動收入 #上班族 #投資新手 #選股 #理財 #etf #00878 #0056 #0050 #stockmarket #stock #finance #2023
🎯我是股市鴿｜鴿的方向只有一個
👍追蹤社群：IG每日成交紀錄｜股市爆料同學會｜Vocus專題｜Vocus個人頁
☕如果覺得文章對你有幫助，歡迎🍕【贊助】🥐
📰今天的股市鴿新聞到此，明天見～
