ChatGPT回答不是你要的怎麼辦?

更新於 發佈於 閱讀時間約 2 分鐘

背景

各位ChatGPT使用者是否常常發生以下狀況:ChatGPT跟你雞同鴨講。

原因就出在ChatGPT當初在訓練時,在你所處的專業Domain並沒有足夠的訓練資料。

針對這種情況要怎麼辦呢?

今天將介紹幾種方法來解決,並分析各種方法的優劣。


方法羅列

  1. 提示工程 (Prompt Engineering)
  2. 檢索增強生成 (Retrieval Augmented Generation, RAG)
  3. 微調 (Fine Tuning)
  4. 從新訓練屬於自己的模型 (Train From Scratch)


方法說明

  1. 提示工程 (Prompt Engineering)

每次使用ChatGPT之前,先儘可能地提供更多「上下文訊息」,透過提供一些範例

(Few-Shot Learning)來讓ChatGPT了解你提問的範圍與目的。


2. 檢索增強生成 (Retrieval Augmented Generation, RAG)

直接外掛一個「專屬於你專業Domain的腦袋」,這腦袋可以是多樣化的形式,例如:

PDF文件、網頁、資料庫等等,如此一來,ChatGPT每次在回答你問題之前都可以先

去這個腦袋檢索一番之後再回答你問題。


3. 微調 (Fine Tuning)

針對既有的ChatGPT模型,準備屬於你專業Domain的資料來做重新訓練與微調,但

是要注意,這通常不會是小工程,要評估的地方有:是否有強力的運算單元GPU、你

所屬專業Domain知識的變化頻率程度等等。


  1. 從新訓練屬於自己的模型 (Train From Scratch)

有別於第三個方法,這裡的從新訓練規模更大,基本上除了企業等級的規模外,普通

用戶幾乎不會有此等運算能力來重新訓練,但好處是此方法能匹配你所屬的專業

Domain。


比較

raw-image


總結

並沒有一種方法可以適用於所有情況,但如果你像我一樣是普通人,手邊沒有強大的GPU運算平台,那麼RAG是最佳方法,有鑑於此,我在後續將手把手教學如何用Meta釋出的Llama模型搭建自己的ChatGPT,手把手的程度可以參照以下文章:

使用Meta釋出的模型,實作Chat GPT - Part 0

使用Meta釋出的模型,實作Chat GPT - Part 1

使用Meta釋出的模型,實作Chat GPT - Part 2

使用Meta釋出的模型,實作Chat GPT - Part 3

使用Meta釋出的模型,實作Chat GPT - Part 4

使用Meta釋出的模型,實作Chat GPT - Part 5

使用Meta釋出的模型,實作Chat GPT - Part 6

avatar-img
180會員
479內容數
這裡將提供: AI、Machine Learning、Deep Learning、Reinforcement Learning、Probabilistic Graphical Model的讀書筆記與演算法介紹,一起在未來AI的世界擁抱AI技術,不BI。
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
Learn AI 不 BI 的其他內容
接著載入Part 2需要的相關依賴,其分別為: from torch import cuda, bfloat16import import transformers 然後選擇我們要的Meta模型,這邊可以是Llama 2或者是Llama 3,後者是Meta最新釋出的模型。 同時我們也讓系統自
第一步先在Python環境中安裝本次專案需要用到的Library,相關指令如下: !pip install accelerate==0.21.0 !pip install transformers==4.31.0 !pip install tokenizers==0.13.3 !pip insta
接著載入Part 2需要的相關依賴,其分別為: from torch import cuda, bfloat16import import transformers 然後選擇我們要的Meta模型,這邊可以是Llama 2或者是Llama 3,後者是Meta最新釋出的模型。 同時我們也讓系統自
第一步先在Python環境中安裝本次專案需要用到的Library,相關指令如下: !pip install accelerate==0.21.0 !pip install transformers==4.31.0 !pip install tokenizers==0.13.3 !pip insta
你可能也想看
Google News 追蹤
Thumbnail
嘿,大家新年快樂~ 新年大家都在做什麼呢? 跨年夜的我趕工製作某個外包設計案,在工作告一段落時趕上倒數。 然後和兩個小孩過了一個忙亂的元旦。在深夜時刻,看到朋友傳來的解籤網站,興致勃勃熬夜體驗了一下,覺得非常好玩,或許有人玩過了,但還是想寫上來分享紀錄一下~
Thumbnail
今天又發現ChatGPT的一些缺點, 使用時需要很準確的提供你想要表達的文字(我覺得還蠻重要的) 又或者拿一些範例給它看, 它就能更準確的回答問題, 因為今天我發現有一篇文章和之前寫過的完全一樣了, 所以又要再請ChatGPT生成30則勵志英文短文, 結果之前發問的問題已經消失了, 又
Thumbnail
因為網路上充斥著 是是而非的資訊,公說公有理 婆說婆有理,我發現我的價值觀開始有點混淆,心中有許多問題 不知道真正的答案是甚麼?突然 想到最近的AI新科技-ChatGPT 或許可以解答我內心的困惑。所以我試著與ChatGPT進行對話,沒想到ChatGPT 的回覆 完全可以解答我心中的疑惑。
Thumbnail
為了充分發揮AI的潛力,我們必須深入瞭解其運作模式和思考邏輯,並學會與AI對話的技巧。《ChatGPT提問課,做個懂AI的高效工作者》這本書提供了豐富的實例,讓讀者更容易學會如何提出精準的問題,並享有提問課程的閱讀回饋。這對於想成為懂AI的高效工作者的人來說,是一本值得一看的書。
Thumbnail
教你3種方式跟ChatGPT練習英文口說 ➊ 付費版 探索GPT ➋ 付費版 ➌ 免費版
Thumbnail
這是一篇關於如何透過教育ChatGPT來做營銷的文章,包含了指令和課程內容的相關信息。
Thumbnail
本文談論了使用ChatGPT的心得和學習新技術的10個步驟,透過這些方法和步驟可以幫助學習者快速有效地掌握新技術。
Thumbnail
從第一次使用到現在,使用GPT近一年的經驗分享。介紹在使用GPT時的困難、挑戰及學習到的技巧,以及如何讓GPT更好地理解所需內容。
Thumbnail
🍁本篇榮獲《1111人力銀行》【大學網有問必答】 刊登!ChatGPT聊的很愉快,但是回頭要找重要的對話記錄,卻如大海撈針,怎麼辦?今天石頭哥就帶你使用一個簡單的方法保存吧!
Thumbnail
這是一篇跟 chatGPT 合作的廢文。文章從標題到內文都由 chatGPT撰寫由我下點評,模擬我 與 chatGPT 老師對談,做一場思辨實驗。
Thumbnail
本文章介紹瞭如何使用AutoGPT, 一種可以自主蒐集資料生成訴求,幫你與ChatGPT在互動中提出一連串的問題,來解決你的問題。對於安裝時的常見問題也進行了解答,並提供了使用的步驟以及目前的解決方式。
Thumbnail
嘿,大家新年快樂~ 新年大家都在做什麼呢? 跨年夜的我趕工製作某個外包設計案,在工作告一段落時趕上倒數。 然後和兩個小孩過了一個忙亂的元旦。在深夜時刻,看到朋友傳來的解籤網站,興致勃勃熬夜體驗了一下,覺得非常好玩,或許有人玩過了,但還是想寫上來分享紀錄一下~
Thumbnail
今天又發現ChatGPT的一些缺點, 使用時需要很準確的提供你想要表達的文字(我覺得還蠻重要的) 又或者拿一些範例給它看, 它就能更準確的回答問題, 因為今天我發現有一篇文章和之前寫過的完全一樣了, 所以又要再請ChatGPT生成30則勵志英文短文, 結果之前發問的問題已經消失了, 又
Thumbnail
因為網路上充斥著 是是而非的資訊,公說公有理 婆說婆有理,我發現我的價值觀開始有點混淆,心中有許多問題 不知道真正的答案是甚麼?突然 想到最近的AI新科技-ChatGPT 或許可以解答我內心的困惑。所以我試著與ChatGPT進行對話,沒想到ChatGPT 的回覆 完全可以解答我心中的疑惑。
Thumbnail
為了充分發揮AI的潛力,我們必須深入瞭解其運作模式和思考邏輯,並學會與AI對話的技巧。《ChatGPT提問課,做個懂AI的高效工作者》這本書提供了豐富的實例,讓讀者更容易學會如何提出精準的問題,並享有提問課程的閱讀回饋。這對於想成為懂AI的高效工作者的人來說,是一本值得一看的書。
Thumbnail
教你3種方式跟ChatGPT練習英文口說 ➊ 付費版 探索GPT ➋ 付費版 ➌ 免費版
Thumbnail
這是一篇關於如何透過教育ChatGPT來做營銷的文章,包含了指令和課程內容的相關信息。
Thumbnail
本文談論了使用ChatGPT的心得和學習新技術的10個步驟,透過這些方法和步驟可以幫助學習者快速有效地掌握新技術。
Thumbnail
從第一次使用到現在,使用GPT近一年的經驗分享。介紹在使用GPT時的困難、挑戰及學習到的技巧,以及如何讓GPT更好地理解所需內容。
Thumbnail
🍁本篇榮獲《1111人力銀行》【大學網有問必答】 刊登!ChatGPT聊的很愉快,但是回頭要找重要的對話記錄,卻如大海撈針,怎麼辦?今天石頭哥就帶你使用一個簡單的方法保存吧!
Thumbnail
這是一篇跟 chatGPT 合作的廢文。文章從標題到內文都由 chatGPT撰寫由我下點評,模擬我 與 chatGPT 老師對談,做一場思辨實驗。
Thumbnail
本文章介紹瞭如何使用AutoGPT, 一種可以自主蒐集資料生成訴求,幫你與ChatGPT在互動中提出一連串的問題,來解決你的問題。對於安裝時的常見問題也進行了解答,並提供了使用的步驟以及目前的解決方式。