AI領域展開
17公開內容
1私密內容
這個房間會是AI相關的，要領域展開的時候，必須要有基礎的術式。
全部內容
免費與付費
最新發佈優先
自然語言模型中，「Temperature」和「Top_p」扮演著重要的角色，它們可以影響生成的文本風格和內容的豐富度。本篇將探討這兩個概念，並提供了多個相關的範例來幫助讀者更好地理解它們的作用。無論您是開發人員還是使用者，這些設定值的調整都可能會對生成的內容產生重大影響，因此值得進行實驗和測試。
檢查torch版本
import torch
torch.__version__
檢查cuda可用性/版本
import torch
torch.version.cuda #版本
torch.cuda.is_available() #有無
torch.cuda.device_count
建議安裝minianaconda或是anaconda後建立一個虛擬環境(如果你熟悉docker也很建議用docker來進行作業)
底下套件也都不是絕對必要，只是建議裝一裝。
pip install pandas
pip install numpy
pip install scikit-learn
本文將介紹如何安裝CUDA和cuDNN，並提供注意事項。隨著安裝步驟和提示，確保您能成功安裝這些必要的套件。
該文章介紹了浮點數精度的概念，包括雙精度、單精度、半精度、8位精度、4位精度、量化精度、多精度和混合精度。同時還介紹了nVidia A100開始的TF32精度和BF16格式，並提供了相關的數據對比。文章強調了TF32和BF16的潛在應用價值及特點。
搜尋.......支援的driver:
apt search nvidia-drive
最新支援到545，我們來裝545好了(通常我會選擇前一版，我也建議選前一版，像是python12 我們就選python11)
sudo apt install nvidia-driver-545
sudo
ggml 是一個通用的機器學習框架，它可以應用於多種模型。它主要使用純 C 語言，並且輕量且適用於 Apple 裝置。ggml 支援許多模型，包括文字和圖片語音相關的模型，如 GPT-2、Llama、CLIP、Whisper 和 Stable Diffusion。
llama.cpp 則是基於 g
Sora 是一個 AI 模型，可以根據文字指令創建現實且富有想像的場景。Sora 可以產生長達一分鐘的Video。
官網上的幾個例子:
Prompt: Several giant wooly mammoths approach treading through a snowy meado
列表看看
conda env list
一開始只有base
# conda environments:
#
base * /home/business/anaconda3
新增一個別的環境
conda create --name py39_env p
sudo apt-get install libgl1-mesa-glx libegl1-mesa libxrandr2 libxrandr2 libxss1 libxcursor1 libxcomposite1 libasound2 libxi6 libxtst6
安裝版本查找:
http
本文介紹了GPU在ESXI上的三種使用方式: 直通、vGPU、Bitfusion。針對一般使用者可以輕易取得的消費者端顯示卡進行了直通的例子和設定步驟。文章詳細介紹了BIOS、 ESXI HOST和虛擬機的設定以及需要注意的各種細節。提供了最新的nvidia驅動下載連結，並分享了測試的方法。
本文介紹了text-generation-webui的安裝方法和模型的選擇，包括模型的下載和擺放位置，並提供了相關的連結和建議。
當你安裝完docker，並且設定好所有相關程序後。你正要使用docker去進行操作，讓專案可以在容器哩，方便平台移轉、備份、共用等等等等等;如果你遇到CUDA docker runtime 的問題時，這篇正適合你閱讀。
開始之前，如果你要參考怎麼安裝docker，設定docker環境，請參考:
從最初的接觸到深度的投懷送抱，這篇文章對於解決如何安裝text-generation-webui提供了清晰的指引。 它引導讀者通過它的官方方式和Docker方式做到這一點。此外，作者還分享了必要的優化建議。
付費限定
GPU在ESXI的使用有三種方式: 直通、vGPU、Bitfusion。各有優缺點，簡單講: 直通，與裝在單機意思雷同，一張卡片只能給一台VM使用; vGPU可以單卡分享給不同的vm使用，但需要取得nVidia的授權;bitfusion可以把所有GPU集中成一個大水庫，供需要的VM使用。
GPU在ESXI的使用有三種方式: 直通、vGPU、Bitfusion。各有優缺點，簡單講: 直通，與裝在單機意思雷同，一張卡片只能給一台VM使用; vGPU可以單卡分享給不同的vm使用，但需要取得nVidia的授權;bitfusion可以把所有GPU集中成一個大水庫，供需要的VM使用。
在bit
