AI說書 - 從0開始 - 6
閱讀時間約 1 分鐘
我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。
回顧我們在AI說書 - 從0開始 - 5中說當Context長度是n，且每個字用d維度的向量表示時有以下結論：
- Attention Layer的複雜度是O(n^2 * d)
- Recurrent Layer的複雜度是O(d^2 * n)
現在我想用以下的運算裝置來跑個小模擬：
- CPU: Central Processing Unit，就是電腦中最常見的運算單元
- GPU: Graphics Processing Unit，原本是用於3D遊戲成像，目前廣泛用於AI中
- TPU: Tensor Processing Unit，由Google提出，用於AI加速的裝置
首先我們可以參考使用Meta釋出的模型，實作Chat GPT - Part 0，來做模擬環境的配置，我們先選擇CPU來做模擬，因此選擇：
169會員
450內容數
這裡將提供： AI、Machine Learning、Deep Learning、Reinforcement Learning、Probabilistic Graphical Model的讀書筆記與演算法介紹，一起在未來AI的世界擁抱AI技術，不BI。
留言0
查看全部
你可能也想看
Google News 追蹤
本系列將討論 LLM 時代中，分散 ML workload 的各種方法。作為系列的第一篇，我們將提及 High-level 的概論，譬如分散式訓練的各種切法、Model Parallelism 的相依問題，以及改善 Network Topology 等課題。
繪製個人學習藍圖，戰勝拖延與分心，並運用直接學習法，讓你的學習更加目標導向。重複練習與自由回想則能幫助你鞏固知識，根據反饋調整學習方向，確保你在正確的道路上不斷進步。立即開始，讓學習變得更高效！
今天來和你分享這本我剛讀完的「AI 世界的底層邏輯與生存法則」。當大家一股腦地想投入AI的領域當中時，這本書的作者程世嘉帶著我們用更高的視角和思維來思考，在AI時代下最重要的底層思考邏輯，找出那些最有價值的核心觀念，幫助我們在這個快速變化的世界當中站穩腳步，釐清未來的方向。
前言
在閱讀《強化式學習：打造最強 AlphaZero 通用演算法》時，對一些看似基本，但是重要且會影響到之後實作的項目概念有點疑惑，覺得應該查清楚，所以搞懂後記錄下來，寫下這篇文章(應該說是筆記？)。
正文
下面這段程式碼：
model = Sequential()
model.add
https://www.youtube.com/watch?v=wjZofJX0v4M
這是我看過最好的AI科普影片了；現在流行的GPT使用的大語言模型 (large language model, LLM), 是把每一個單字都當作一個高維度向量
影片中GPT3共儲存50257個英文單字, 每
AI 相關的內容每天都非常多，有聽過很多人因此感覺到焦慮，怕錯過了最新資訊就會趕不上，這篇內容會跟大家詳細的分享我自己的學習方法和經驗，並且會在最後分享一些我的學習資訊來源。
本書作者劉潤深入探討底層邏輯，如何透過洞察本質和時間管理，提升生活品質和工作效率。內容包含對問題的深度思考和時間管理觀念，讀者能從書中獲得新穎的啟發，改變心態和方式。
本書介紹一些觀念和心理學原理，幫助我們在工作中做出更好的決定、利用情緒激發創意和提升心智表現…
你應該聽過有人開頭就說：「我簡單說明一下。」結果說個不停，10 分鐘了還聽不到想表達什麼，我們會不耐煩是因為對簡單說一下，到底是多簡單？要講多久？每個人的認知完全不一樣。
如果說：「我用 2 分鐘簡單說明一下。」那麼你可以預期 2 分鐘就結束，對方沒做到還可以提醒他。
如何確保訊息的精確傳遞
http://tinyurl.com/12000ai888
http://tinyurl.com/12000ai888
http://tinyurl.com/12000ai888
本系列將討論 LLM 時代中，分散 ML workload 的各種方法。作為系列的第一篇，我們將提及 High-level 的概論，譬如分散式訓練的各種切法、Model Parallelism 的相依問題，以及改善 Network Topology 等課題。
繪製個人學習藍圖，戰勝拖延與分心，並運用直接學習法，讓你的學習更加目標導向。重複練習與自由回想則能幫助你鞏固知識，根據反饋調整學習方向，確保你在正確的道路上不斷進步。立即開始，讓學習變得更高效！
今天來和你分享這本我剛讀完的「AI 世界的底層邏輯與生存法則」。當大家一股腦地想投入AI的領域當中時，這本書的作者程世嘉帶著我們用更高的視角和思維來思考，在AI時代下最重要的底層思考邏輯，找出那些最有價值的核心觀念，幫助我們在這個快速變化的世界當中站穩腳步，釐清未來的方向。
前言
在閱讀《強化式學習：打造最強 AlphaZero 通用演算法》時，對一些看似基本，但是重要且會影響到之後實作的項目概念有點疑惑，覺得應該查清楚，所以搞懂後記錄下來，寫下這篇文章(應該說是筆記？)。
正文
下面這段程式碼：
model = Sequential()
model.add
https://www.youtube.com/watch?v=wjZofJX0v4M
這是我看過最好的AI科普影片了；現在流行的GPT使用的大語言模型 (large language model, LLM), 是把每一個單字都當作一個高維度向量
影片中GPT3共儲存50257個英文單字, 每
AI 相關的內容每天都非常多，有聽過很多人因此感覺到焦慮，怕錯過了最新資訊就會趕不上，這篇內容會跟大家詳細的分享我自己的學習方法和經驗，並且會在最後分享一些我的學習資訊來源。
本書作者劉潤深入探討底層邏輯，如何透過洞察本質和時間管理，提升生活品質和工作效率。內容包含對問題的深度思考和時間管理觀念，讀者能從書中獲得新穎的啟發，改變心態和方式。
本書介紹一些觀念和心理學原理，幫助我們在工作中做出更好的決定、利用情緒激發創意和提升心智表現…
你應該聽過有人開頭就說：「我簡單說明一下。」結果說個不停，10 分鐘了還聽不到想表達什麼，我們會不耐煩是因為對簡單說一下，到底是多簡單？要講多久？每個人的認知完全不一樣。
如果說：「我用 2 分鐘簡單說明一下。」那麼你可以預期 2 分鐘就結束，對方沒做到還可以提醒他。
如何確保訊息的精確傳遞
http://tinyurl.com/12000ai888
http://tinyurl.com/12000ai888
http://tinyurl.com/12000ai888