tokenizer
含有「tokenizer」共 28 篇內容
全部內容
發佈日期由新至舊
大型語言模型 LLM 是如何讀懂我們的？對機器來說，人類的語言要如何理解？AI真的知道它在說什麼嗎？
上一篇只講了 Tokenizer 最快的用法，但仔細想想還是寫得再詳細一點好了
tokenizer() 可以將一串句子變成電腦看得懂的編碼，但他其實包含三個動作
1. 將句子拆分成一個一個字詞
2. 將字詞轉換成編碼
3. 添加 Special Token
今天要講的是 Hugging Face 貼心準備的工具包，歸屬在 Transformers 中的 Tokenizer (分詞器)
電腦沒辦法理解人類的語言，所以需要先將文字轉換成電腦能讀懂的數字，而我們不可能把一整句話直接編碼，例如："I love you."=1、"I love him."=2...，這樣編碼到最後會變成天文數字，所以在那之前我們需要先將一句話分成最小單位，也就是「詞」
我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。
Transformer 中的 Attention 機制是 'Word-to-Word' 操作，抑或是 'Token-to-Token' 操作，白話來講就是：「對於句子中
我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。
首先先展示 Transformer 的架構圖：
可以看到架構中不再出現 RNN 、 LSTM 、 CNN 等物件，因為 Recurrence 已被摒棄。
我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。
既然要談論 Transformer 的 Attention 機制，我們必須要談論以下主題：
Transformer 架構
自注意力機制
編碼與解碼
Embedd
我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。
2017 年 12 月，Google Brain 和 Google Research 發表了 Vaswani 等人的開創性論文《Attention Is All You
我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。
從AI說書 - 從0開始 - 0到AI說書 - 從0開始 - 35，我們完成書籍：Transformers for Natural Language Processin
我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。
從AI說書 - 從0開始 - 0到AI說書 - 從0開始 - 34，我們談了許多 Transformer 議題，以下來做條列性結論：
Transformer 迫使人工