【付費會員限定 #3】AI基建中的基建

AMD在MI350上，已整合更高效的HBM，而下一代MI400系列，會在此基礎上再推升3D混合鍵合(hybrid bonding)密度、記憶體容量與板級功率規格，尤其是MI400系列將正式跨入「系統級3D」—也就是運算晶片、記憶體、光學I/O三者在同一模組上，並搭配共封裝光學(CPO)的協同設計。這代表未來加速器模組將具備比PCIe匯流排、InfiniBand（NVDA的數據中心網路傳輸規格）、Ethernet（傳統乙太網路）更高的逃逸頻寬，系統傳輸的瓶頸會明顯轉移。

上面這段我承認不是講人話，大家聽得懂多少便聽，聽不懂也沒關係。

這其實是我在寫期末報告時，針對公司內部的一場由AMD主講之未公開演講，所撰寫的其中一個心得段落；未涉及任何機密，但其中有一個隱藏寶藏，能辨識者將有機會能抓住未來趨勢。