E.K Learning
11公開內容
沒有最完美架構、只有最適合情境的架構、好的架構是需要不斷迭代
全部內容
免費與付費
最新發佈優先
近期，我在公司內部討論了關於大型語言模型（LLM）的導入問題，焦點在於應該選擇自建AI伺服器還是使用雲端服務。這個問題在生成式AI風氣盛行的今日，顯得尤為重要。企業在選擇語言模型進行微調，或是語言模型搭配使用檢索增強生成（RAG）模式時，面臨AI基礎建設的選擇主要會是考量自建AI伺服器或採用雲端
這陣子一直在看AI對整個產業影響，但大多數我們可以看到都是偏向雲端或是服務器端的影響相對是第一個被沖擊的，所以，相對應的硬體成長也隨者這一波帶動不少成長。不過，我更好奇是否有機會AI也可以在Edge進行訓練與應用。因此，整理一些看過的內容。會許不久將來我們也許可以看到，說不久也可能不會太久
