要使用 CUDA（Compute Unified Device Architecture）來加速計算，首先需要在你的系統上設置和安裝相關的工具。CUDA 是由 NVIDIA 開發的平行計算框架，用於加速大量數據的運算，尤其在圖像處理、機器學習、科學計算等領域很有應用。
可以參考官方的安裝方式
以下是使用 CUDA 的具體步驟和方法：
1. 確認系統支援 CUDA
確保你的系統配備了 NVIDIA 的 GPU，且 GPU 支援 CUDA。你可以查詢 NVIDIA 的官方網站來確認你的 GPU 是否支援 CUDA。通常較新的 NVIDIA 顯卡都支援 CUDA。或從NVIDIA控制面板→系統資訊→元素這可觀看
2. 安裝 NVIDIA 驅動程式
確保你的系統已經安裝了適合的 NVIDIA 顯示驅動程式。你可以從 NVIDIA 的官方驅動下載頁面來獲取正確的驅動程式。
3. 安裝 CUDA 工具包
前往 NVIDIA 的 CUDA Toolkit 下載頁面 並下載對應你操作系統版本的 CUDA Toolkit。CUDA Toolkit 包含了 CUDA 的開發工具和編譯器。
安裝步驟：
- 下載對應的 CUDA Toolkit 安裝包。
- 根據官方提供的指引進行安裝，過程中會包含編譯器、標頭文件、庫等所需工具。
我是使用線上安裝版的步驟
使用 CUDA 的線上安裝版（exe network installer） 時，安裝程序會自動連接到 NVIDIA 的伺服器，並根據你當前的系統環境來檢查並下載適合的驅動程序和 CUDA 工具包。因此，它確實會幫你檢查並安裝適合的 CUDA 版本
- 安裝完會自動設置好環境變數，將 CUDA 添加到
PATH中。
4. 安裝 cuDNN
如果你打算在深度學習框架中使用 CUDA，加速神經網絡的計算，可以安裝 cuDNN（CUDA Deep Neural Network library）。你可以從 NVIDIA cuDNN 官方下載頁面 下載對應的版本，並將它解壓到 CUDA Toolkit 對應的目錄中。
需註冊會員才能下載
下載完 cuDNN 放置位置：
當你下載並解壓 cuDNN 後，需要將它的內容放到已安裝的 CUDA 工具包對應的目錄中。具體操作如下：
- 解壓縮 cuDNN 壓縮包，你會看到三個主要文件夾：
bin、include和lib。 - 將這些文件複製到對應的 CUDA 目錄：
- bin 文件夾（動態鏈接庫 .dll 文件）： 將解壓縮的 bin 目錄下的 .dll 文件放入：C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\bin
- include 文件夾（頭文件 .h 文件）： 將解壓縮的 include 目錄下的 cudnn.h 放入：C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\include
- lib 文件夾（靜態庫和動態鏈接庫 .lib 文件）： 將解壓縮的 lib\x64 目錄下的 .lib 文件放入：C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\lib\x64
這樣做就完成了 cuDNN 與 CUDA 工具包的集成。
5. 確認 CUDA 安裝是否成功
安裝完 CUDA Toolkit 後，確認是否安裝成功。你可以使用以下命令來檢查 CUDA 安裝和 GPU 狀態：
nvcc --version
這會顯示 CUDA 編譯器的版本，如果安裝正確，你會看到 CUDA 版本信息。
. Cuda compilation tools, release 12.6, V12.6.77
這部分表示：
- CUDA 工具鏈版本：你使用的 CUDA 工具是 12.6 版。
- V12.6.77 是這個工具鏈的具體版本號。