學習

音樂藝文

以行動支持創作者！付費即可解鎖

科技

DOCKER_安裝_Install_Ubuntu22.04

當你安裝完docker，並且設定好所有相關程序後。你正要使用docker去進行操作，讓專案可以在容器哩，方便平台移轉、備份、共用等等等等等;如果你遇到CUDA docker runtime 的問題時，這篇正適合你閱讀。

開始之前，如果你要參考怎麼安裝docker，設定docker環境，請參考:

職場

Docker_NVIDIA Container Enable_以Ubuntu22.04為例

語言模型與文字表示以不同的方式來分析自然語言的詞語分佈及語意關係。本文章簡要介紹了語言模型、Word2vec、FastText、GloVe和Transformer等技術，並提供了實際的應用參考點，幫助讀者深入理解自然語言處理的技術。 

親子與教育

語言模型初探

檢查torch版本

import torch
torch.__version__



檢查cuda可用性/版本

import torch
torch.version.cuda #版本

torch.cuda.is_available() #有無

torch.cuda.device_count

創作

Pytorch開始作業前的前置檢查

從最初的接觸到深度的投懷送抱，這篇文章對於解決如何安裝text-generation-webui提供了清晰的指引。 它引導讀者通過它的官方方式和Docker方式做到這一點。此外，作者還分享了必要的優化建議。

可以單機操作的類chatGPT架設(text-generation-webui: 如何安裝？)

ggml 是一個通用的機器學習框架，它可以應用於多種模型。它主要使用純 C 語言，並且輕量且適用於 Apple 裝置。ggml 支援許多模型，包括文字和圖片語音相關的模型，如 GPT-2、Llama、CLIP、Whisper 和 Stable Diffusion。

llama.cpp 則是基於 g

投資理財

粗淺的認識ggml 與llama.cpp

建議安裝minianaconda或是anaconda後建立一個虛擬環境(如果你熟悉docker也很建議用docker來進行作業)
底下套件也都不是絕對必要，只是建議裝一裝。

pip install pandas
pip install numpy
pip install scikit-learn


開始LLM DeepLearning之前建議安裝的幾個套件

本文將介紹如何安裝CUDA和cuDNN，並提供注意事項。隨著安裝步驟和提示，確保您能成功安裝這些必要的套件。

nVidia CUDA/cudnn on Ubuntu server安裝(接續driver)

搜尋.......支援的driver:

apt search nvidia-drive

最新支援到545，我們來裝545好了(通常我會選擇前一版，我也建議選前一版，像是python12 我們就選python11)

sudo apt install nvidia-driver-545
sudo 

nVidia Driver on Ubuntu Server(淺談裝nVidia driver的溫馨文

GPU在ESXI的使用有三種方式: 直通、vGPU、Bitfusion。各有優缺點，簡單講: 直通，與裝在單機意思雷同，一張卡片只能給一台VM使用; vGPU可以單卡分享給不同的vm使用，但需要取得nVidia的授權;bitfusion可以把所有GPU集中成一個大水庫，供需要的VM使用。

在bit

國際

SETTING GPU SHAREING by Bitfusion Server (V100)

這個房間會是AI相關的，要領域展開的時候，必須要有基礎的術式。

AI領域展開

目前尚無內容