AI PC + AI OS

AI PC 硬體需求

具備DRAM容量達16GB、Copilot鍵、NPU神經處理單元(運算能力需達到 40 tops _{Apple M3 晶片，NPU 算力達 18 tops}, _{M4 晶片，NPU 算力達 38 tops)}

Keynote Microsoft Build 2024

這次的微軟又搞出了不少新名詞新架構需要來認識，對新進開發者也是個機會 !

1. AI OS : 一個整合了 Copilot 的 Windows 版本，原生支援 Copilot Library、AI Models、RAG ，技術堆疊上可以類推過去 Windows OS 內建 Windows SDK, GDI ....比較好理解，未來使用 AI OS 的 開發者將產出各種內建 AI 功能的 Copilot APP，如同過去的 Windows App 一樣。
   感想 : 破壞式開發 加上一台透過自然語言(不是鍵盤滑鼠)就能互動的電腦
2. Azure OpenAI 應用服務增加 GPT-4o
3. Microsoft Copilot : 跟過去相關的有 Bing Chat、Windows Copilot
4. 開發人員需要重點注意的 Copilot Stack
5. NPU: Neural Processing Unit，AI 神經處理器，低耗能，可處理輕量級的計算。
   a. NPU 單位功耗所創造的性能是 GPU 的 1000 倍
6. Windows Copilot Runtime
7. 內建 PyTorch 支援跟 Web Neural Network(WebNN) 是一套新的 Web API 標準，讓網頁應用程式可以利用 CPU、GPU、NPU 來加速神經網路運算
8. DirectML : https://learn.microsoft.com/zh-tw/windows/ai/directml/dml
9. WebNN : Web 類神經網路 API 是新興的 Web 標準，WebNN API 會利用 Windows 上的 DirectML API 存取原生硬體 (可用GPU+NPU，前者在 PREVIEW 階段，後者即將支援)
   WebNN Network API Draft @W3C] : 2024/05/23 的版本
   WebNN 的實作狀態表 : 目前僅以 chromium 瀏覽器為 Base 的有實作(Windows, Mac進行中)

WebNN-Diagram

相關公司

1. 品牌廠 : 華碩、宏碁
2. NPU : 耐能科技、雲達科技（QCT）
3. 記憶體 : DRAM、Nand Flash。DRAM 主要是DDR-5。
4. CCL : 台光電、台燿、聯茂
5. 麥克風: 鈺太
6. Wi-Fi 7: PA數量提升，立積、穩懋、宏捷科
7. NB 的電容式指紋辨識模組
   兩種規範: MOH 跟 MOC，MOH 是將影像傳給CPU計算辨識，MOC是在安全性方面提升，在指紋辨識晶片中內建計算功能將加密結果傳給CPU(單價貴一倍)。未來CPU將全面採用MOC。有義隆電、匯頂、神盾...。
8. 檢測廠 : 耕興