🚀 這門課在學什麼？
AI 的浪潮已從學術走向落地應用：2012 AlexNet → 2017 Transformer + Scale Law → 2022 ChatGPT → 近年的 Agentic AI 與 Physical AI。模型越來越大、算力與能耗壓力暴增，也逼著「運算架構」與「半導體產業」同步加速演進。
這門課要做的，就是把這些趨勢用一套可討論、可分析、可做專題的框架整理起來。
🧱 核心方法：七層 AI 運算架構（類 OSI 思維）
課程用「七層架構」系統化拆解 AI Compute，從底層硬體一路對應到應用與生態系：- Physical Layer（實體層）：硬體組件、能源、區域互連
- Link Layer（連結層）：連接運算單元的網路架構
- Neural Network Layer（神經網路層）：訓練/推理核心機制
- Context Layer（情境層）：情境表示與管理（提升效能）
- Agent Layer（代理層）：任務導向、自主代理
- Orchestrator Layer（協調層）：多代理協作與生態系形成
- Application Layer（應用層）：產品、AI 服務、平台整合
一句話：用分層視角理解 AI Compute 如何從模型→代理→實體世界。
🔧 你會接觸到的重點主題
AI 運算硬體架構（重頭戲）
- Scale-up vs Scale-out
- GPU / TPU / ASIC、Domain-Specific Architecture
- Number representation（數值表示）、Sparsity（稀疏化）
- Workload-aware / Parallelism-aware / Memory-aware design
- Coprocessor / Offload Engine
- Non-Von-Neumann：CIM / CNM（運算記憶體融合）
AI 神經網路與應用演進
- ANN / SNN、Token 與 Foundation Model
- Transformer、Scale Law、Generative AI
- Test-Time Compute、Case Study
- Context Engineering、Agentic AI、Physical AI
議題與產業
- AI 運算的能源議題
- AI 應用與商業模式可行性
- 世界 IC 半導體產業分析與展望
📝 評量方式（很明確）
- 書面作業 40%
- 期末專題報告 60%
（用專題把「硬體×演算法×應用」整合成可落地的研究/產品題目）
📚 教材與參考
以老師自編講義為主，並使用：
Bor-Sung Liang (2025), AI Compute Architecture and Evolution Trends, arXiv:2508.21394
🗓️ 週次進度（重點版）
w1.228放假
- W2–W3：AI 運算架構導論（七層架構、演進脈絡）
- W4–W5：AI 神經網路演進（Transformer、Scale Law、GenAI、TTC）
- W7–W9：AI 運算硬體架構（GPU/TPU/ASIC、並行/記憶體/稀疏、CIM/CNM）
- W11–W12：AI 運算應用架構（Context、Agent、Physical AI）
- W13：AI 運算議題＋能源＋半導體產業展望
- W14–W16：期末專題報告
🎯 適合誰來修？
- 想把 AI 的演進 跟 算力/能耗/硬體架構 串成一條線的人
- 想研究或布局 AI 晶片、資料中心、加速器、CIM/CNM、Agent/Physical AI 的人
- 想用「分層架構」找到專題題目或未來研究方向的人
