ESXI8-Ubuntu24.04|22.04 ,4090_4080_4070_4060.直通_GPU passthru

閱讀時間約 5 分鐘

GPU在ESXI的使用有三種方式: 直通、vGPU、Bitfusion。各有優缺點,簡單講: 直通,與裝在單機意思雷同,一張卡片只能給一台VM使用; vGPU可以單卡分享給不同的vm使用,但需要取得nVidia的授權;bitfusion可以把所有GPU集中成一個大水庫,供需要的VM使用。

這篇就來講講怎麼設定一個直通的GPU服務給ubuntu 22.04使用的例子。本篇雖以ESXI8-Ubuntu24.04|22.04 GPU 直通_GPU一般有輸出的顯示卡,但Linux 都適用喔。


直通有另一個好處,你可以讓鍵盤、滑鼠等周邊一起直通,就可以利用ESXI的優點來進行作業系統的管理喔。

這邊主要是針對一般使用者可以輕易取得的消費者端顯示卡進行的範例,如果你的卡片是沒有HDMI、DP PORT那種輸出的計算卡,請參考:

第一個步驟,請到BIOS找到4G以上 decoding的功能打開他(Enable):

每家BIOS有些許不同,請找出4G這個關鍵字吧。

每家BIOS有些許不同,請找出4G這個關鍵字吧。

開啟虛擬化功能:

每家BIOS不盡相同,找到Virtualization相關字眼。

每家BIOS不盡相同,找到Virtualization相關字眼。

如果你的主機版比較舊(或是無自動功能),可能會需要針對顯示卡所在位置進行EFI的Enable,這不是每個人都需要的,請注意只有你的設備有需要才要執行這個選項。

我們通常會查詢出要插顯示卡的那個插槽號碼,例如:

這是supermicro主機板的一個範例。執行時請查詢你的主機板。

這是supermicro主機板的一個範例。執行時請查詢你的主機板。


我們插在SLOT5,所以必須在BIOS進行設定:

每張主機板不一定一樣,請依據需求設定。

每張主機板不一定一樣,請依據需求設定。


這條線以上是BIOS的相關設定。


這邊開始是ESXI8 HOST的設定:

找到PCI裝置,指定傳遞

找到PCI裝置,指定傳遞

如果你之後直通失敗,可以檢查這邊,必要時可以進行變更:

設定主機圖形共用:共用=>共用直接

設定主機圖形共用:共用=>共用直接


這條線之前是ESXI HOST的設定。


這條線開始是虛擬機設定。用戶端虛擬機設定,本處以ubuntu22.04為例。

裝設新虛擬機:

確定可以上網,隨便測試可以上網即可

確定可以上網,隨便測試可以上網即可


Edit blacklist-nvidia-nouveau.conf:


sudo nano /etc/modprobe.d/blacklist-nvidia-nouveau.conf

填入內容:

blacklist nouveau
options nouveau modeset=0

run:

sudo update-initramfs -u
init 0

虛擬機加入PCIe裝置:

經實測,建議把audio也加進去,否則有時會遇到不可預期的問題。

經實測,建議把audio也加進去,否則有時會遇到不可預期的問題。


新增(option不是必要項目):

pciPassthru.use64bitMMIO=TRUE
pciPassthru.64bitMMIOSizeGB=64
vhv.allowPassthru = TRUE(option)
vhv.enable = TRUE(option)
hypervisor.cpuid.v0=FALSE(option)
raw-image


開啟虛擬機後執行:

sudo apt update
sudo apt upgrade
sudo apt install gcc make build-essential libglvnd-dev pkg-config


下載nvidia驅動:

請到https://download.nvidia.com/XFree86下載相關的驅動程式。

raw-image

執行:

chmod +x ./N………(請依據你的版本填入).run
sudo ./N………(請依據你的版本填入).run -m=kernel-open

新增顯卡參數:

sudo nano /etc/modprobe.d/nvidia.conf
內容:
options nvidia NVreg_OpenRmEnableUnsupportedGpus=1

重新開機:

sudo reboot

測試:

nvidia-smi


raw-image


以上分享,希望可以幫助到想要把GPU放在ESXI的夥伴。有設定困難的歡迎討論喔。








avatar-img
5會員
75內容數
記錄生活與技術的小細節
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
iBonnie_愛邦尼 的其他內容
本文介紹了text-generation-webui的安裝方法和模型的選擇,包括模型的下載和擺放位置,並提供了相關的連結和建議。
當你安裝完docker,並且設定好所有相關程序後。你正要使用docker去進行操作,讓專案可以在容器哩,方便平台移轉、備份、共用等等等等等;如果你遇到CUDA docker runtime 的問題時,這篇正適合你閱讀。 開始之前,如果你要參考怎麼安裝docker,設定docker環境,請參考:
從最初的接觸到深度的投懷送抱,這篇文章對於解決如何安裝text-generation-webui提供了清晰的指引。 它引導讀者通過它的官方方式和Docker方式做到這一點。此外,作者還分享了必要的優化建議。
GPU在ESXI的使用有三種方式: 直通、vGPU、Bitfusion。各有優缺點,簡單講: 直通,與裝在單機意思雷同,一張卡片只能給一台VM使用; vGPU可以單卡分享給不同的vm使用,但需要取得nVidia的授權;bitfusion可以把所有GPU集中成一個大水庫,供需要的VM使用。
GPU在ESXI的使用有三種方式: 直通、vGPU、Bitfusion。各有優缺點,簡單講: 直通,與裝在單機意思雷同,一張卡片只能給一台VM使用; vGPU可以單卡分享給不同的vm使用,但需要取得nVidia的授權;bitfusion可以把所有GPU集中成一個大水庫,供需要的VM使用。 在bit
Docker_ubuntu22.04_安裝
本文介紹了text-generation-webui的安裝方法和模型的選擇,包括模型的下載和擺放位置,並提供了相關的連結和建議。
當你安裝完docker,並且設定好所有相關程序後。你正要使用docker去進行操作,讓專案可以在容器哩,方便平台移轉、備份、共用等等等等等;如果你遇到CUDA docker runtime 的問題時,這篇正適合你閱讀。 開始之前,如果你要參考怎麼安裝docker,設定docker環境,請參考:
從最初的接觸到深度的投懷送抱,這篇文章對於解決如何安裝text-generation-webui提供了清晰的指引。 它引導讀者通過它的官方方式和Docker方式做到這一點。此外,作者還分享了必要的優化建議。
GPU在ESXI的使用有三種方式: 直通、vGPU、Bitfusion。各有優缺點,簡單講: 直通,與裝在單機意思雷同,一張卡片只能給一台VM使用; vGPU可以單卡分享給不同的vm使用,但需要取得nVidia的授權;bitfusion可以把所有GPU集中成一個大水庫,供需要的VM使用。
GPU在ESXI的使用有三種方式: 直通、vGPU、Bitfusion。各有優缺點,簡單講: 直通,與裝在單機意思雷同,一張卡片只能給一台VM使用; vGPU可以單卡分享給不同的vm使用,但需要取得nVidia的授權;bitfusion可以把所有GPU集中成一個大水庫,供需要的VM使用。 在bit
Docker_ubuntu22.04_安裝
你可能也想看
Google News 追蹤
這陣子輝達真的太熱門了,有很多人分享GPU硬體相關的技術,也有人分享與老黃一起工作的點點滴滴,總之非常精彩。 而老黃也說過輝達不只有硬體還有軟體,講到軟體大家第一個聯想到的是CUDA,有了CUDA的加持讓NVIDIA的GPU有更好的效能,不過NVIDIA另一個佈局已久的平台比較少人提起-Omniv
Thumbnail
NVIDIA(英偉達)作為全球領先的圖形處理器(GPU)製造商,不僅在遊戲市場佔有重要地位,還在專業圖形和高性能計算領域擁有強大的產品線。
Thumbnail
NVIDIA的新目標:AI晶圓代工 NVIDIA宣布,他們的目標是成為支援企業開發AI應用程式的「AI晶圓代工」。這與接受客戶委託製造半導體的代工廠相似,NVIDIA將提供技術、專業知識和基礎設施,幫助實現AI應用程式。
Thumbnail
NVIDIA的新目標是成為支援企業開發AI應用程式的「AI晶圓代工」,提供技術、專業知識和基礎設施,幫助實現AI應用。具體而言,NVIDIA將提供GPU、自主CPU「Grace」、超級計算機及其硬體,還有軟體和工具,以滿足客戶需求。
Thumbnail
如果實在找不到可用的替代軟體,或者就是要用指定的軟體不可,那麼虛擬機器可以作為在使用Linux時的一個應對方案。
Thumbnail
NVIDIA在人工智慧處理專用GPU領域的地位牢固,但面臨著來自英特爾和超微半導體等競爭對手的反擊。新興企業也加入競爭,使得競爭更加激烈。未來,合作關係將變得至關重要,NVIDIA和其他競爭對手在激烈的競爭中脫穎而出的關鍵。
Thumbnail
HP電競筆電顯卡4060 ASUS曲面螢幕 滑鼠品牌POJUN波軍 麥克風HYPERX S 鍵盤平民牌子 我之後會回去嘗試直播遊戲實況,有圖奇TWITCH帳號的可以追蹤我的TWITCH我會不定期的做直播和訂閱我的YT感謝
Chat With RTX 為 NVIDIA RTX AI PC 量身打造聊天機器人 此一技術展示內容讓所有 RTX GPU 用戶都能享受到強大的個性化 GPT 聊天機器人 https://blogs.nvidia.com.tw/2024/02/16/chat-with-rtx-availabl
實體主機差異 對於大多數線上業務而言,主機選擇可能是成功與否的分水嶺。但你有沒有真正了解過VPS與傳統虛擬和實體主機的關鍵區別?為什麼VPS會成為高效能和靈活性的代名詞,被這麼多人選擇呢?在這篇文章裡,我們會帶著你深入探討VPS,幫你選擇一個真正適合你的理想主機!
Thumbnail
這篇文章將分享最近遇到 NVIDIA GPU driver 的問題,並提供瞭解決步驟,以及證實問題解決的測試方法。當您遇到類似問題時,可以參考這篇文章進行解決。文章中包含了定位庫文件目錄、備份和替換文件以及測試修改的步驟。
這陣子輝達真的太熱門了,有很多人分享GPU硬體相關的技術,也有人分享與老黃一起工作的點點滴滴,總之非常精彩。 而老黃也說過輝達不只有硬體還有軟體,講到軟體大家第一個聯想到的是CUDA,有了CUDA的加持讓NVIDIA的GPU有更好的效能,不過NVIDIA另一個佈局已久的平台比較少人提起-Omniv
Thumbnail
NVIDIA(英偉達)作為全球領先的圖形處理器(GPU)製造商,不僅在遊戲市場佔有重要地位,還在專業圖形和高性能計算領域擁有強大的產品線。
Thumbnail
NVIDIA的新目標:AI晶圓代工 NVIDIA宣布,他們的目標是成為支援企業開發AI應用程式的「AI晶圓代工」。這與接受客戶委託製造半導體的代工廠相似,NVIDIA將提供技術、專業知識和基礎設施,幫助實現AI應用程式。
Thumbnail
NVIDIA的新目標是成為支援企業開發AI應用程式的「AI晶圓代工」,提供技術、專業知識和基礎設施,幫助實現AI應用。具體而言,NVIDIA將提供GPU、自主CPU「Grace」、超級計算機及其硬體,還有軟體和工具,以滿足客戶需求。
Thumbnail
如果實在找不到可用的替代軟體,或者就是要用指定的軟體不可,那麼虛擬機器可以作為在使用Linux時的一個應對方案。
Thumbnail
NVIDIA在人工智慧處理專用GPU領域的地位牢固,但面臨著來自英特爾和超微半導體等競爭對手的反擊。新興企業也加入競爭,使得競爭更加激烈。未來,合作關係將變得至關重要,NVIDIA和其他競爭對手在激烈的競爭中脫穎而出的關鍵。
Thumbnail
HP電競筆電顯卡4060 ASUS曲面螢幕 滑鼠品牌POJUN波軍 麥克風HYPERX S 鍵盤平民牌子 我之後會回去嘗試直播遊戲實況,有圖奇TWITCH帳號的可以追蹤我的TWITCH我會不定期的做直播和訂閱我的YT感謝
Chat With RTX 為 NVIDIA RTX AI PC 量身打造聊天機器人 此一技術展示內容讓所有 RTX GPU 用戶都能享受到強大的個性化 GPT 聊天機器人 https://blogs.nvidia.com.tw/2024/02/16/chat-with-rtx-availabl
實體主機差異 對於大多數線上業務而言,主機選擇可能是成功與否的分水嶺。但你有沒有真正了解過VPS與傳統虛擬和實體主機的關鍵區別?為什麼VPS會成為高效能和靈活性的代名詞,被這麼多人選擇呢?在這篇文章裡,我們會帶著你深入探討VPS,幫你選擇一個真正適合你的理想主機!
Thumbnail
這篇文章將分享最近遇到 NVIDIA GPU driver 的問題,並提供瞭解決步驟,以及證實問題解決的測試方法。當您遇到類似問題時,可以參考這篇文章進行解決。文章中包含了定位庫文件目錄、備份和替換文件以及測試修改的步驟。