ESXI8-Ubuntu24.04|22.04 ,4090_4080_4070_4060.直通_GPU passthru

閱讀時間約 5 分鐘

GPU在ESXI的使用有三種方式: 直通、vGPU、Bitfusion。各有優缺點,簡單講: 直通,與裝在單機意思雷同,一張卡片只能給一台VM使用; vGPU可以單卡分享給不同的vm使用,但需要取得nVidia的授權;bitfusion可以把所有GPU集中成一個大水庫,供需要的VM使用。

這篇就來講講怎麼設定一個直通的GPU服務給ubuntu 22.04使用的例子。本篇雖以ESXI8-Ubuntu24.04|22.04 GPU 直通_GPU一般有輸出的顯示卡,但Linux 都適用喔。


直通有另一個好處,你可以讓鍵盤、滑鼠等周邊一起直通,就可以利用ESXI的優點來進行作業系統的管理喔。

這邊主要是針對一般使用者可以輕易取得的消費者端顯示卡進行的範例,如果你的卡片是沒有HDMI、DP PORT那種輸出的計算卡,請參考:

第一個步驟,請到BIOS找到4G以上 decoding的功能打開他(Enable):

每家BIOS有些許不同,請找出4G這個關鍵字吧。

每家BIOS有些許不同,請找出4G這個關鍵字吧。

開啟虛擬化功能:

每家BIOS不盡相同,找到Virtualization相關字眼。

每家BIOS不盡相同,找到Virtualization相關字眼。

如果你的主機版比較舊(或是無自動功能),可能會需要針對顯示卡所在位置進行EFI的Enable,這不是每個人都需要的,請注意只有你的設備有需要才要執行這個選項。

我們通常會查詢出要插顯示卡的那個插槽號碼,例如:

這是supermicro主機板的一個範例。執行時請查詢你的主機板。

這是supermicro主機板的一個範例。執行時請查詢你的主機板。


我們插在SLOT5,所以必須在BIOS進行設定:

每張主機板不一定一樣,請依據需求設定。

每張主機板不一定一樣,請依據需求設定。


這條線以上是BIOS的相關設定。


這邊開始是ESXI8 HOST的設定:

找到PCI裝置,指定傳遞

找到PCI裝置,指定傳遞

如果你之後直通失敗,可以檢查這邊,必要時可以進行變更:

設定主機圖形共用:共用=>共用直接

設定主機圖形共用:共用=>共用直接


這條線之前是ESXI HOST的設定。


這條線開始是虛擬機設定。用戶端虛擬機設定,本處以ubuntu22.04為例。

裝設新虛擬機:

確定可以上網,隨便測試可以上網即可

確定可以上網,隨便測試可以上網即可


Edit blacklist-nvidia-nouveau.conf:


sudo nano /etc/modprobe.d/blacklist-nvidia-nouveau.conf

填入內容:

blacklist nouveau
options nouveau modeset=0

run:

sudo update-initramfs -u
init 0

虛擬機加入PCIe裝置:

經實測,建議把audio也加進去,否則有時會遇到不可預期的問題。

經實測,建議把audio也加進去,否則有時會遇到不可預期的問題。


新增(option不是必要項目):

pciPassthru.use64bitMMIO=TRUE
pciPassthru.64bitMMIOSizeGB=64
vhv.allowPassthru = TRUE(option)
vhv.enable = TRUE(option)
hypervisor.cpuid.v0=FALSE(option)
raw-image


開啟虛擬機後執行:

sudo apt update
sudo apt upgrade
sudo apt install gcc make build-essential libglvnd-dev pkg-config


下載nvidia驅動:

請到https://download.nvidia.com/XFree86下載相關的驅動程式。

raw-image

執行:

chmod +x ./N………(請依據你的版本填入).run
sudo ./N………(請依據你的版本填入).run -m=kernel-open

新增顯卡參數:

sudo nano /etc/modprobe.d/nvidia.conf
內容:
options nvidia NVreg_OpenRmEnableUnsupportedGpus=1

重新開機:

sudo reboot

測試:

nvidia-smi


raw-image


以上分享,希望可以幫助到想要把GPU放在ESXI的夥伴。有設定困難的歡迎討論喔。








4會員
73內容數
記錄生活與技術的小細節
留言0
查看全部
發表第一個留言支持創作者!
iBonnie_愛邦尼 的其他內容
本文介紹了text-generation-webui的安裝方法和模型的選擇,包括模型的下載和擺放位置,並提供了相關的連結和建議。
當你安裝完docker,並且設定好所有相關程序後。你正要使用docker去進行操作,讓專案可以在容器哩,方便平台移轉、備份、共用等等等等等;如果你遇到CUDA docker runtime 的問題時,這篇正適合你閱讀。 開始之前,如果你要參考怎麼安裝docker,設定docker環境,請參考:
從最初的接觸到深度的投懷送抱,這篇文章對於解決如何安裝text-generation-webui提供了清晰的指引。 它引導讀者通過它的官方方式和Docker方式做到這一點。此外,作者還分享了必要的優化建議。
GPU在ESXI的使用有三種方式: 直通、vGPU、Bitfusion。各有優缺點,簡單講: 直通,與裝在單機意思雷同,一張卡片只能給一台VM使用; vGPU可以單卡分享給不同的vm使用,但需要取得nVidia的授權;bitfusion可以把所有GPU集中成一個大水庫,供需要的VM使用。
GPU在ESXI的使用有三種方式: 直通、vGPU、Bitfusion。各有優缺點,簡單講: 直通,與裝在單機意思雷同,一張卡片只能給一台VM使用; vGPU可以單卡分享給不同的vm使用,但需要取得nVidia的授權;bitfusion可以把所有GPU集中成一個大水庫,供需要的VM使用。 在bit
Docker_ubuntu22.04_安裝
本文介紹了text-generation-webui的安裝方法和模型的選擇,包括模型的下載和擺放位置,並提供了相關的連結和建議。
當你安裝完docker,並且設定好所有相關程序後。你正要使用docker去進行操作,讓專案可以在容器哩,方便平台移轉、備份、共用等等等等等;如果你遇到CUDA docker runtime 的問題時,這篇正適合你閱讀。 開始之前,如果你要參考怎麼安裝docker,設定docker環境,請參考:
從最初的接觸到深度的投懷送抱,這篇文章對於解決如何安裝text-generation-webui提供了清晰的指引。 它引導讀者通過它的官方方式和Docker方式做到這一點。此外,作者還分享了必要的優化建議。
GPU在ESXI的使用有三種方式: 直通、vGPU、Bitfusion。各有優缺點,簡單講: 直通,與裝在單機意思雷同,一張卡片只能給一台VM使用; vGPU可以單卡分享給不同的vm使用,但需要取得nVidia的授權;bitfusion可以把所有GPU集中成一個大水庫,供需要的VM使用。
GPU在ESXI的使用有三種方式: 直通、vGPU、Bitfusion。各有優缺點,簡單講: 直通,與裝在單機意思雷同,一張卡片只能給一台VM使用; vGPU可以單卡分享給不同的vm使用,但需要取得nVidia的授權;bitfusion可以把所有GPU集中成一個大水庫,供需要的VM使用。 在bit
Docker_ubuntu22.04_安裝
你可能也想看
Google News 追蹤
Thumbnail
接下來第二部分我們持續討論美國總統大選如何佈局, 以及選前一週到年底的操作策略建議 分析兩位候選人政策利多/ 利空的板塊和股票
Thumbnail
🤔為什麼團長的能力是死亡筆記本? 🤔為什麼像是死亡筆記本呢? 🤨作者巧思-讓妮翁死亡合理的幾個伏筆
需求: 要開啟 PyCharm 的 PEP8 自動語法檢查 參考文件 Pycharm安裝autopep8 - 台部落 (twblogs.net) 按表操課,一定成功? 設定完之後,遇到第一個小問題 "Permission Denied",進入VENV安裝目錄發現沒有執行權限,就開吧
Thumbnail
諸君: 今天來講:Ubuntu Desktop 22.04 LTS 半年來的使用心得。(2023-08-23)
Thumbnail
承上篇,繼續往下走吧! 來說明一下 PHP 兩個會用到的套件安裝,一個是 ionCube,另一個為 memcached ●PHP 套件 ionCube 安裝 先以下列指令,在帳戶內建立一個 tmp 資料夾備用,執行時留意是在帳號剛登入主機的位置喔!
Thumbnail
先說,我並非專業人士~ 只是分享建立的過程與經驗,不要問我問題~ 我可能、應該無法解答,哈哈哈。 另,這只是一份 草稿? 操作簡述~ 容我不很詳細的抓畫面了! 我之後 "應該" 會拍影片說明整個過程,真的有拍的話,再補上影片網址。
Thumbnail
《尋找全球幸福關鍵字》一書中,南非的幸福關鍵字是Ubuntu Ubuntu是相互連接、互動和分享的意思,我在你身上找到我的價值,你也在我身上找到你的價值。 現代人強調獨立自主,又因訊息多元,生活各方面都很方便,因此有時難免會排斥相互干擾。過往社會則不然,例如農業社會,彼此殷勤往來,相互協助,互通有無
Ubuntu 台灣正體站 https://www.ubuntu-tw.org/ 下載ubuntu-22.04-live-server-amd64 用rufus https://rufus.ie/zh_TW/# 製作開機usb碟 (MBR) 2022.05.26
Thumbnail
承接上篇文章 架設好環境後我們要來安裝 WordPress 了 其實安裝 WordPress 非常簡單,但是其中要注意的小細節太多了,若是沒有設定好,接下來在做各種激烈操作的時候就會有一堆問題。 文章目錄: 首先,建立一個專門給 WordPress 的資料庫,開啟 phpmyadmin 解壓縮
Thumbnail
Step 1. Install requirements $ sudo apt-get install uuid uuid-dev zlib1g-dev liblz-dev liblzo2–2 liblzo2-dev lzop git-core curl u-boot-tools mtd-utils
Thumbnail
大家都知道Ubuntu可以透過Ctrl+Alt+T來打開終端機,但有些更進階的人會去使用Terminator讓終端機可以使用的更方便,像是自動切成四塊Terminal。 而本文會教學如何安裝Terminator與修改參數讓他可以一打開就顯示你想要的設定。
Thumbnail
這篇文章教你如何使用Raspberry 3b+裝Ubuntu 16.04系統並且裝設Kinetic版本的ROS,若有此需求歡迎點進來看看。
Thumbnail
接下來第二部分我們持續討論美國總統大選如何佈局, 以及選前一週到年底的操作策略建議 分析兩位候選人政策利多/ 利空的板塊和股票
Thumbnail
🤔為什麼團長的能力是死亡筆記本? 🤔為什麼像是死亡筆記本呢? 🤨作者巧思-讓妮翁死亡合理的幾個伏筆
需求: 要開啟 PyCharm 的 PEP8 自動語法檢查 參考文件 Pycharm安裝autopep8 - 台部落 (twblogs.net) 按表操課,一定成功? 設定完之後,遇到第一個小問題 "Permission Denied",進入VENV安裝目錄發現沒有執行權限,就開吧
Thumbnail
諸君: 今天來講:Ubuntu Desktop 22.04 LTS 半年來的使用心得。(2023-08-23)
Thumbnail
承上篇,繼續往下走吧! 來說明一下 PHP 兩個會用到的套件安裝,一個是 ionCube,另一個為 memcached ●PHP 套件 ionCube 安裝 先以下列指令,在帳戶內建立一個 tmp 資料夾備用,執行時留意是在帳號剛登入主機的位置喔!
Thumbnail
先說,我並非專業人士~ 只是分享建立的過程與經驗,不要問我問題~ 我可能、應該無法解答,哈哈哈。 另,這只是一份 草稿? 操作簡述~ 容我不很詳細的抓畫面了! 我之後 "應該" 會拍影片說明整個過程,真的有拍的話,再補上影片網址。
Thumbnail
《尋找全球幸福關鍵字》一書中,南非的幸福關鍵字是Ubuntu Ubuntu是相互連接、互動和分享的意思,我在你身上找到我的價值,你也在我身上找到你的價值。 現代人強調獨立自主,又因訊息多元,生活各方面都很方便,因此有時難免會排斥相互干擾。過往社會則不然,例如農業社會,彼此殷勤往來,相互協助,互通有無
Ubuntu 台灣正體站 https://www.ubuntu-tw.org/ 下載ubuntu-22.04-live-server-amd64 用rufus https://rufus.ie/zh_TW/# 製作開機usb碟 (MBR) 2022.05.26
Thumbnail
承接上篇文章 架設好環境後我們要來安裝 WordPress 了 其實安裝 WordPress 非常簡單,但是其中要注意的小細節太多了,若是沒有設定好,接下來在做各種激烈操作的時候就會有一堆問題。 文章目錄: 首先,建立一個專門給 WordPress 的資料庫,開啟 phpmyadmin 解壓縮
Thumbnail
Step 1. Install requirements $ sudo apt-get install uuid uuid-dev zlib1g-dev liblz-dev liblzo2–2 liblzo2-dev lzop git-core curl u-boot-tools mtd-utils
Thumbnail
大家都知道Ubuntu可以透過Ctrl+Alt+T來打開終端機,但有些更進階的人會去使用Terminator讓終端機可以使用的更方便,像是自動切成四塊Terminal。 而本文會教學如何安裝Terminator與修改參數讓他可以一打開就顯示你想要的設定。
Thumbnail
這篇文章教你如何使用Raspberry 3b+裝Ubuntu 16.04系統並且裝設Kinetic版本的ROS,若有此需求歡迎點進來看看。