安裝輝達 Jetson 邊緣運算平台作為平價GPU電腦來撰寫 Python/CUDA 程式

輝達（nVidia）的 Jetson Orin Nano 是一個相當小的裝置（註一），它是具備完整平行運算及人工智慧能力的 all-in-one 電腦，其中包含1024 GPU cores, 8GB RAM, 和 120 GB 的儲存空間。不同於市面上動輒十數萬的 GPU AI 電腦，它在 Amazon.com 的售價約合二萬多塊台幣，而且有完整的 CUDA 軟體支援，對於學術或教學上要學習平行運算或人工智慧相關的學習或研究來說，是相當地方便而且平價。

對我來說，把 Jetson Nano 當作一個 24 小時運作的平行運算伺服器；不管在家、在學校或在旅行，利用隨身的 iPad 連線回來作各種 CUDA/Python 程式的撰寫設計，其實相當的方便；在使用多核心運算時，也不需要額外付費給 CoLab 或 CoCalc 這些遠端伺服器。

從台灣收到 Amazon.com 寄來的電腦後，接下來就開始安裝 Python 以及 CUDA 環境；基本上是在一個 Ubuntu linux 上安裝。

• 安裝 nvidia-jetpack

  sudo apt-get install python3-pip
  sudo apt install nvidia-jetpack
  sudo pip install —-upgrad pip

• 檢查 CUDA 版本

在 Jetson Orin 電腦上事前安裝的 Python 版本是 3.8 版，CUDA 版本為 11.4版。首先要先編輯’.bashrc’這個檔案。

vi ~/.bashrc

然後在檔案的最後加上以下幾行

export LD_LIBRARY_PATH=/usr/local/cuda/lib
export PATH=$PATH:/usr/local/cuda/bin
export PATH=$PATH:/usr/local/cuda/bin

然後就可以用以下指令來檢查 Python 及 CUDA版本了。

nvcc -V

接下來，應該就可以看到完整安裝好的 Python 及 CUDA 版本；可以用很平價的價格，簡單地在 nVidia 的電腦上作 Python 和 CUDA 的程式撰寫。

• 安裝 jtop 程式檢查 Jetson Platform 的狀態

在安裝完 python 及 CUDA 之後，我們可以透過輝達提供的 jtop 程式來檢查目前 Jetson Orin Nano 裝置的狀態。

首先安裝 jtop package

sudo pip3 install jetson-state

之後，只要重開機再執行 jtop 就可以了。

sudo reboot

jtop

可以看到 Jetson Orin Nano 裝置上 CPU、記憶體、GPU以及風扇溫度等各個 Jetson 裝置上的使用狀況以及參數。

*註一：