上一篇講理論跟數學，真的是很難連結到實際的運用。
在訓練深度學習模型時，選擇合適的開發框架與硬體加速技術可以大幅提升效率。這篇先快速介紹 TensorFlow 和 PyTorch，並說明 CPU、GPU、CUDA 如何影響運算效能。下一篇會實作 PyTorch。參考影片：TensorFlow in 100 SecondsCUDA Simply Explained - GPU vs CPU Parallel Computing for Beginners
🏗️ TensorFlow 簡介
TensorFlow 由 Google 開發，是目前最受歡迎的深度學習框架之一，擁有完整的生態系統。
📌 特色：
- 處理多維度的資料（Tensor 是一種多維的向量或矩陣(multi-dimensional arrays)）
- 靜態計算圖（Graph-Based Execution）：讓模型可以優化計算並進行分布式訓練。
- Keras API：內建 Keras，提供直覺的高層 API，適合初學者。
- 跨平台：可運行於手機（TensorFlow Lite）、瀏覽器（TensorFlow.js）、雲端（TPU 支援）。
📌 適合的應用場景：
- 大規模模型（如 BERT、GPT），適合企業應用和雲端部署。
- Spotify 推薦音樂、醫療使用看核磁共振的疾病報告分析、自動駕駛。
- 需要 TensorFlow Serving 部署的應用，如 AI 服務或 API。
🔥 PyTorch 簡介
PyTorch 由 Meta（前 Facebook）開發，近年來成為研究領域的主流框架，因為它更靈活且易於除錯。
📌 特色：
- 動態計算圖（Eager Execution）：允許即時運行並方便除錯，類似 Python 的風格。
- TorchScript：能將動態圖轉為靜態圖，提升執行效率。
- 支援自動微分（Autograd）：大幅簡化反向傳播的實作。
📌 適合的應用場景：
- 學術研究、原型開發：動態計算圖讓研究人員更快實驗新架構。
- 電腦視覺、自然語言處理：很多 SOTA（State-of-the-Art）模型都使用 PyTorch。
👉 簡單來說，TensorFlow 適合企業級部署，而 PyTorch 更適合研究與開發！
來玩玩看
- 到官網安裝
https://pytorch.org/
在 cmd 命令提示元貼上安裝的指令 (我沒有cuda，先用CPU裝)
手寫數字辨識（MNIST）
- MNIST 資料集 包含 0 到 9 共 10 種手寫數字，每個影像為 28x28 像素 的灰階圖片。
- 我們將使用 多層感知機（MLP） 來訓練模型。
- 訓練完成後，我們可以用這個模型來辨識手寫數字！
原本想要自己玩玩看，示範給讀者們，結果我的筆電電腦滿溢進入死當的狀態嗚嗚嗚
⚡ CPU、GPU、CUDA：運算硬體的影響
在訓練神經網路時，選擇合適的硬體可以大幅提升效能。
🖥️ CPU（中央處理器）
- 適合小型模型或推論（Inference），但對大規模訓練較慢。
- 一般用來處理 資料預處理、輕量級推論 等任務。
🎮 GPU（圖形處理器）
- 專門處理矩陣運算，適合深度學習訓練。
- 多核心運算能同時計算數千個參數，大幅加快訓練速度。
- NVIDIA GPU + CUDA 是目前深度學習的標準配置。
⚙️ CUDA（NVIDIA 平行計算架構）讓ＧPU 處理AI工作
- CUDA（Compute Unified Device Architecture） 是 NVIDIA 開發的平行運算框架，讓 GPU 能夠處理 AI 工作負載。
- 可以在 GPU 跟 CPU之間轉換
- 提供大規模平行運算，速度比 CPU 快數十倍
👉 CPU 通常只有 8~16 個核心，但 GPU 有 幾千個 CUDA 核心（CUDA Cores），可以同時運算大量矩陣數據。
👉 在訓練深度學習模型時，GPU 可以同時計算多個神經元的權重更新，大幅加速計算過程。
- PyTorch 與 TensorFlow 都支援 CUDA，可透過
torch.cuda.is_available()或tf.config.list_physical_devices('GPU')來檢查 GPU 是否啟用。
NVIDIA 最新的 GPU（如 RTX 30/40 系列、A100、H100） 內建 Tensor Cores，專門為 AI 訓練優化，可進一步提升運算速度。
📌 簡單總結：
- CPU：適合輕量級推論與資料處理。
- GPU：適合大規模訓練，可透過 CUDA 加速計算。
- CUDA：NVIDIA 的 GPU 加速技術，幾乎是 AI 訓練的標準配備！
🎯 總結
- TensorFlow 適合企業應用與部署，PyTorch 更靈活、適合研究。
- 訓練模型時，GPU + CUDA 會比 CPU 更快，尤其是大規模數據與深度神經網路。
- 想要訓練高效能模型，建議使用NVIDIA GPU 並確保 CUDA 已啟用！
👉 你的電腦有支援 GPU 嗎？可以試著檢查一下 CUDA 是否開啟！😉