學習筆記【生成式AI導論 2024】第3講：訓練不了人工智慧？你可以訓練你自己 (上) — 神奇咒語與提供更多資訊
更新於 發佈於 閱讀時間約 2 分鐘
這一節課說明，如何透過改變給模型的指示或咒語（prompt），來得到不同的結果 。也就是不依靠重新訓練新模型的方式，來強化語言模型的方法。直接說結論的話是，在今天語言模型的能力之下，我們只要交代清楚任務就好，可以包括背景以及需求。而這節課很像是一堂模型咒語的歷史課 XD，介紹了過去給模型加上不同話語，來增強完成任務的能力。
1. 叫模型思考
包括加上：”Let’s think step by step.” 叫模型思考、 “Answer by starting with analysis” 請模型先分析再回答，或是在請求最後加上 ”This is very important to my career.” （對模型情緒勒索），這些方法對於過去模型的回答是有所效果的
這邊更多相關資訊是一篇論文實驗的結果，分別是提到
- 可以不需要說「請」、「謝謝」
- 對他說「做什麼」，而不是「不要做什麼」
- 加上「如果回答的好就給你小費」
- 加上「答得不好將受到處罰」
- 加上「確保你的答案是沒有偏誤，且避免刻板印象」
給小費跟給予處罰的部分很有趣🤣
2. 把前提講清楚
透過先告訴 AI 一些背景的前提資訊、或是直接輸入額外的檔案資料，讓對應回答有所改變，增加得到我們要的答案可能性
這邊很有趣的是進行了一個實驗，如果刻意把「政治」與「財經」前提資訊做掉包，從他的回答可以發現並沒有把說明給讀進去，而是按照原先的知識回答「財經」
但如果增加一條提示：「這些類別的定義可能與一般的定義不同」，就有好好把說明給讀進去了。所以透過提示，可以讓他好好讀說明並產生了不一樣的結果。
還有剩下 3 點是在下一節課繼續說明，最後的時候再次提到，我們給予前提的指令，不會讓模型重新訓練，想要讓他每次都有比較精準的回答，還是在前面加上上充分的前提資訊。
-
這裡也找的到我歐👇
Instagram: ezra.share.injoy
Matters: ezra.share.injoy
你可能也想看
Google News 追蹤
【vocus 精選投資理財/金融類沙龍，輸入 "moneyback" 年訂閱 9 折】
市場動盪時，加碼永遠值得的投資標的——「自己」
川普政府再度拋出關稅震撼彈，全球市場應聲重挫，從散戶到專業投資人，都急著找尋買進殺出的訊號，就是現在，輪到知識進場！把握時機讓自己升級，別放過反彈的機會！
目前在讀的書籍為Eric Matthes所撰寫的《Python編程: 從入門到實踐》，此文為學習過程的簡單筆記。
目前在讀的書籍為Eric Matthes所撰寫的《Python編程: 從入門到實踐》，此文為學習過程的簡單筆記。
目前在讀的書籍為Eric Matthes所撰寫的《Python編程: 從入門到實踐》，此文為學習過程的簡單筆記。
目前在讀的書籍為Eric Matthes所撰寫的《Python編程: 從入門到實踐》，此文為學習過程的簡單筆記。
我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。
回顧 AI說書 - 從0開始 - 129 中說，Bidirectional Encoder Representations from Transformers (BER
我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。
我們已經在 AI說書 - 從0開始 - 114 建立了 Transformer 模型。
現在我們來載入預訓練權重，預訓練的權重包含 Transformer 的智慧
分享我怎麼「用 AI 設計一個學習流程」讓我把學過的英文「真的記住，並且用的出來」
這個過程不會碰到複雜的技術，
只需結合基本學習原則，還有在ChatGPT用中文下指令的技巧
這樣你以後就可以針對自己想學的英文內容設計客製化的學習材料跟練習過程喔！
我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。
繼 AI說書 - 從0開始 - 82 與 xxx ，我們談論了衡量 AI 模型的方式，那當你訓練的模型比 State-of-the-Art 還要好並想要進行宣稱時，需要
我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。
Transformer 可以透過繼承預訓練模型 (Pretrained Model) 來微調 (Fine-Tune) 以執行下游任務。
Pretrained Mo
延續上週提到的，「有哪些不訓練模型的情況下，能夠強化語言模型的能力」，這堂課接續介紹其中第 3、4 個方法
【vocus 精選投資理財/金融類沙龍，輸入 "moneyback" 年訂閱 9 折】
市場動盪時，加碼永遠值得的投資標的——「自己」
川普政府再度拋出關稅震撼彈，全球市場應聲重挫，從散戶到專業投資人，都急著找尋買進殺出的訊號，就是現在，輪到知識進場！把握時機讓自己升級，別放過反彈的機會！
目前在讀的書籍為Eric Matthes所撰寫的《Python編程: 從入門到實踐》，此文為學習過程的簡單筆記。
目前在讀的書籍為Eric Matthes所撰寫的《Python編程: 從入門到實踐》，此文為學習過程的簡單筆記。
目前在讀的書籍為Eric Matthes所撰寫的《Python編程: 從入門到實踐》，此文為學習過程的簡單筆記。
目前在讀的書籍為Eric Matthes所撰寫的《Python編程: 從入門到實踐》，此文為學習過程的簡單筆記。
我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。
回顧 AI說書 - 從0開始 - 129 中說，Bidirectional Encoder Representations from Transformers (BER
我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。
我們已經在 AI說書 - 從0開始 - 114 建立了 Transformer 模型。
現在我們來載入預訓練權重，預訓練的權重包含 Transformer 的智慧
分享我怎麼「用 AI 設計一個學習流程」讓我把學過的英文「真的記住，並且用的出來」
這個過程不會碰到複雜的技術，
只需結合基本學習原則，還有在ChatGPT用中文下指令的技巧
這樣你以後就可以針對自己想學的英文內容設計客製化的學習材料跟練習過程喔！
我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。
繼 AI說書 - 從0開始 - 82 與 xxx ，我們談論了衡量 AI 模型的方式，那當你訓練的模型比 State-of-the-Art 還要好並想要進行宣稱時，需要
我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。
Transformer 可以透過繼承預訓練模型 (Pretrained Model) 來微調 (Fine-Tune) 以執行下游任務。
Pretrained Mo
延續上週提到的，「有哪些不訓練模型的情況下，能夠強化語言模型的能力」，這堂課接續介紹其中第 3、4 個方法