ASUS Ascent GX10搭載 NVIDIA® GB10 Grace Blackwell 超級晶片,提供高達 1 petaFLOP 的 AI 運算效能,並配備 128GB 記憶體,足以支援 2000 億(200B)參數模型的微調。(來源: https://www.asus.com/tw/networking-iot-servers/desktop-ai-supercomputer/ultra-small-ai-supercomputers/asus-ascent-gx10/)
前一陣子原本拿來跑Ollama的Mac M3 ULTRA 512G壞掉送修,原廠說缺料,要等到一月底才有可能進到台灣進行維修作業。因此,只好買了替代方案NVIDIA SPARK來跑Ollama,雖然記憶體差距很大,但價格也差距很大,算是一個CP值很高的選擇。
首先,先分享開箱的幾張圖片:
顯示有 HDMI 、Type-C輸出。
其他(包括顯示)共有 4個 USB4 (Type-C) 連接埠,其中一個是電源輸入,支援 20Gb/s速率 。內部SSD有1T、2T、4T版本,我們買了2T的SSD版本,記憶體為統一記憶體128G,在價位上,除了NVIDIA 官方版比較貴之外,其他OEM 版本是比較划算的,所以我們買了華碩的OEM版本(11萬多的價格)。
接著把電源網路等接上後開機:
設定好之後,我們把SSH設定好就可以方便遠端作業:
設定好之後我們可以透過SSH來遠端作業,完成後面其他設定,首先用list pci設備來看看這台機器的大概內容:

我們買這台機器替代MAC的工作主要考量就是價格跟最關鍵的統一記憶體 (Unified Memory) ,他讓主記憶體可以被 GPU 共享使用,我們執行大型語言模型(LLM)時,大模型才可以被順利載入(官網宣稱足以支援 2000 億(200B)參數模型的微調)。
接著我們使用df -h看一下硬碟空間:

如果你熟悉桌面作業,也可以設定VNC來遠端作業:
設定好後可以連線進去,映入眼簾的引導頁中最重要的就是這台機器可以使用的一些相關應用:

當然對於熟悉的朋友,這部分可以略過。不熟悉的人他右邊列出的四個大項目,非常有用處呢。像是DGX Dashboard,你只要在網址上輸入http://localhost:11000,就可以看到機器使用狀況:

當然你如果習慣用指令,輸入nvisia-smi:

如果作業系統玩壞掉了,想重灌的時候,請先在官方的網站下載特製版作業系統(https://www.asus.com/tw/networking-iot-servers/desktop-ai-supercomputer/ultra-small-ai-supercomputers/asus-ascent-gx10/helpdesk_download?model2Name=ASUS-Ascent-GX10)

將壓縮解開為iso檔案,之後使用https://rufus.ie/zh_TW/的工具來製作USB開機碟。聰明的你只要依據使用經驗,就可以輕鬆地做出可以開機的USB碟來重灌作業系統了。

因為這台機器滿滿的都是type c所以建議可以買雙插頭的產品來使用,像是:

緊接著要進入BIOS到BOOT將BOOT OPTION#1改為USB碟開機後選擇Save & Exit。

開機後可以看到安裝的選單:

然後選擇安裝:

安裝完成後系統開機後就可以回上面流程跑完設定了。












