AI說書 - 從0開始 - 66
我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。
先做個總回顧：
- Transformer 架構總覽：AI說書 - 從0開始 - 39
- Attention 意圖說明：AI說書 - 從0開始 - 40
- Transformer 內的 Encoder 架構總覽：AI說書 - 從0開始 - 41
- Input Embedding 意圖說明：AI說書 - 從0開始 - 42
- Embedding 訓練方式：AI說書 - 從0開始 - 43
- Embedding 結果呈現：AI說書 - 從0開始 - 44
- Positional Encoding 功能介紹：AI說書 - 從0開始 - 45
- Positional Encoding 畫圖感受：AI說書 - 從0開始 - 46
- Positional Encoding 實際計算：AI說書 - 從0開始 - 47
- Embedding 與 Positional Encoding 的相似度比較：AI說書 - 從0開始 - 48
- Embedding 與 Positional Encoding 的合成方式：AI說書 - 從0開始 - 49
- Embedding 與 Positional Encoding 的合成前後討論：AI說書 - 從0開始 - 50
- Multi-Head Attention 意圖說明：AI說書 - 從0開始 - 51
- Single-Head Attention 數學說明：AI說書 - 從0開始 - 52
- Multi-Head Attention 數學說明：AI說書 - 從0開始 - 53
- Attention 機制程式說明 - 輸入端：AI說書 - 從0開始 - 53
- Attention 機制程式說明 - Query 端：AI說書 - 從0開始 - 54
- Attention 機制程式說明 - Key 端：AI說書 - 從0開始 - 54
- Attention 機制程式說明 - Value 端：AI說書 - 從0開始 - 55
- Attention 機制程式說明 - Query 、 Key 、 Value 結果：AI說書 - 從0開始 - 56
- Attention 機制程式說明 - Attention Score 計算：AI說書 - 從0開始 - 57
- Attention 機制程式說明 - Attention Score 正規化計算：AI說書 - 從0開始 - 58
- Attention 機制程式說明 - 輸出結果計算：AI說書 - 從0開始 - 59
- Attention 機制程式說明 - 輸出結果呈現：AI說書 - 從0開始 - 60
- Attention 機制程式說明 - 總整理：AI說書 - 從0開始 - 61
- Attention 例子回歸 Google 原始模型的提點：AI說書 - 從0開始 - 62
- Single-Head 過度到 Multi-Head Attention 程式手法：AI說書 - 從0開始 - 63
- Add & Layer Normalization 說明：AI說書 - 從0開始 - 64
- Feedforward 說明：AI說書 - 從0開始 - 65
至此講完 Transformer 的 Encoder 部分，而 Decoder 架構如下：
- 原始 Google 的 Transformer 論文中，其於 Decoder 內，一樣配置 N = 6
- 一個 Decoder Layer 中，包含三個 Sublayer ，其分別為：
- Multi-Headed Masked Attention Mechanism
- Multi-Headed Attention Mechanism
- Fully Connected Position-Wise Feedforward Network
177會員
468內容數
這裡將提供： AI、Machine Learning、Deep Learning、Reinforcement Learning、Probabilistic Graphical Model的讀書筆記與演算法介紹，一起在未來AI的世界擁抱AI技術，不BI。
留言0
查看全部
你可能也想看
Google News 追蹤
嘿，大家新年快樂~ 新年大家都在做什麼呢？
跨年夜的我趕工製作某個外包設計案，在工作告一段落時趕上倒數。
然後和兩個小孩過了一個忙亂的元旦。在深夜時刻，看到朋友傳來的解籤網站，興致勃勃熬夜體驗了一下，覺得非常好玩，或許有人玩過了，但還是想寫上來分享紀錄一下~
https://www.youtube.com/watch?v=wjZofJX0v4M
這是我看過最好的AI科普影片了；現在流行的GPT使用的大語言模型 (large language model, LLM), 是把每一個單字都當作一個高維度向量
影片中GPT3共儲存50257個英文單字, 每
最新的AI趨勢讓人眼花撩亂，不知要如何開始學習？本文介紹了作者對AI的使用和體驗，以及各類AI工具以及推薦的選擇。最後強調了AI是一個很好用的工具，可以幫助人們節省時間並提高效率。鼓勵人們保持好奇心，不停止學習，並提出了對健康生活和開心生活的祝福。
今天接觸到兩個重點方向，我覺得每個人都可以去嘗試思考，也是我最近在試著去了解更深的主軸：
①提升思維、善用AI工具。
包括接觸商業和產品知識，再用工具加速、更有效達標。
②自媒體——讓人認識你。
如果要做自媒體，可以先思考目的，比如我的目標是寫作出書，就不需要花太多時間分享生活娛
AI 相關的內容每天都非常多，有聽過很多人因此感覺到焦慮，怕錯過了最新資訊就會趕不上，這篇內容會跟大家詳細的分享我自己的學習方法和經驗，並且會在最後分享一些我的學習資訊來源。
這篇文章介紹瞭如何利用生成式AI（GenAI）來提高學習效率，包括文章重點整理、完善知識體系、客製化學習回饋、提供多元觀點等方法。同時提醒使用者應注意內容的信效度，保持學術誠信，適當運用GenAI能大幅提升工作效率。
http://tinyurl.com/12000ai888
http://tinyurl.com/12000ai888
http://tinyurl.com/12000ai888
嘿，大家新年快樂~ 新年大家都在做什麼呢？
跨年夜的我趕工製作某個外包設計案，在工作告一段落時趕上倒數。
然後和兩個小孩過了一個忙亂的元旦。在深夜時刻，看到朋友傳來的解籤網站，興致勃勃熬夜體驗了一下，覺得非常好玩，或許有人玩過了，但還是想寫上來分享紀錄一下~
https://www.youtube.com/watch?v=wjZofJX0v4M
這是我看過最好的AI科普影片了；現在流行的GPT使用的大語言模型 (large language model, LLM), 是把每一個單字都當作一個高維度向量
影片中GPT3共儲存50257個英文單字, 每
最新的AI趨勢讓人眼花撩亂，不知要如何開始學習？本文介紹了作者對AI的使用和體驗，以及各類AI工具以及推薦的選擇。最後強調了AI是一個很好用的工具，可以幫助人們節省時間並提高效率。鼓勵人們保持好奇心，不停止學習，並提出了對健康生活和開心生活的祝福。
今天接觸到兩個重點方向，我覺得每個人都可以去嘗試思考，也是我最近在試著去了解更深的主軸：
①提升思維、善用AI工具。
包括接觸商業和產品知識，再用工具加速、更有效達標。
②自媒體——讓人認識你。
如果要做自媒體，可以先思考目的，比如我的目標是寫作出書，就不需要花太多時間分享生活娛
AI 相關的內容每天都非常多，有聽過很多人因此感覺到焦慮，怕錯過了最新資訊就會趕不上，這篇內容會跟大家詳細的分享我自己的學習方法和經驗，並且會在最後分享一些我的學習資訊來源。
這篇文章介紹瞭如何利用生成式AI（GenAI）來提高學習效率，包括文章重點整理、完善知識體系、客製化學習回饋、提供多元觀點等方法。同時提醒使用者應注意內容的信效度，保持學術誠信，適當運用GenAI能大幅提升工作效率。
http://tinyurl.com/12000ai888
http://tinyurl.com/12000ai888
http://tinyurl.com/12000ai888