ChatGPT回答不是你要的怎麼辦?

閱讀時間約 2 分鐘

背景

各位ChatGPT使用者是否常常發生以下狀況:ChatGPT跟你雞同鴨講。

原因就出在ChatGPT當初在訓練時,在你所處的專業Domain並沒有足夠的訓練資料。

針對這種情況要怎麼辦呢?

今天將介紹幾種方法來解決,並分析各種方法的優劣。


方法羅列

  1. 提示工程 (Prompt Engineering)
  2. 檢索增強生成 (Retrieval Augmented Generation, RAG)
  3. 微調 (Fine Tuning)
  4. 從新訓練屬於自己的模型 (Train From Scratch)


方法說明

  1. 提示工程 (Prompt Engineering)

每次使用ChatGPT之前,先儘可能地提供更多「上下文訊息」,透過提供一些範例

(Few-Shot Learning)來讓ChatGPT了解你提問的範圍與目的。


2. 檢索增強生成 (Retrieval Augmented Generation, RAG)

直接外掛一個「專屬於你專業Domain的腦袋」,這腦袋可以是多樣化的形式,例如:

PDF文件、網頁、資料庫等等,如此一來,ChatGPT每次在回答你問題之前都可以先

去這個腦袋檢索一番之後再回答你問題。


3. 微調 (Fine Tuning)

針對既有的ChatGPT模型,準備屬於你專業Domain的資料來做重新訓練與微調,但

是要注意,這通常不會是小工程,要評估的地方有:是否有強力的運算單元GPU、你

所屬專業Domain知識的變化頻率程度等等。


  1. 從新訓練屬於自己的模型 (Train From Scratch)

有別於第三個方法,這裡的從新訓練規模更大,基本上除了企業等級的規模外,普通

用戶幾乎不會有此等運算能力來重新訓練,但好處是此方法能匹配你所屬的專業

Domain。


比較

raw-image


總結

並沒有一種方法可以適用於所有情況,但如果你像我一樣是普通人,手邊沒有強大的GPU運算平台,那麼RAG是最佳方法,有鑑於此,我在後續將手把手教學如何用Meta釋出的Llama模型搭建自己的ChatGPT,手把手的程度可以參照以下文章:

使用Meta釋出的模型,實作Chat GPT - Part 0

使用Meta釋出的模型,實作Chat GPT - Part 1

使用Meta釋出的模型,實作Chat GPT - Part 2

使用Meta釋出的模型,實作Chat GPT - Part 3

使用Meta釋出的模型,實作Chat GPT - Part 4

使用Meta釋出的模型,實作Chat GPT - Part 5

使用Meta釋出的模型,實作Chat GPT - Part 6

155會員
390內容數
這裡將提供: AI、Machine Learning、Deep Learning、Reinforcement Learning、Probabilistic Graphical Model的讀書筆記與演算法介紹,一起在未來AI的世界擁抱AI技術,不BI。
留言0
查看全部
發表第一個留言支持創作者!
Learn AI 不 BI 的其他內容
接著載入Part 2需要的相關依賴,其分別為: from torch import cuda, bfloat16import import transformers 然後選擇我們要的Meta模型,這邊可以是Llama 2或者是Llama 3,後者是Meta最新釋出的模型。 同時我們也讓系統自
第一步先在Python環境中安裝本次專案需要用到的Library,相關指令如下: !pip install accelerate==0.21.0 !pip install transformers==4.31.0 !pip install tokenizers==0.13.3 !pip insta
接著載入Part 2需要的相關依賴,其分別為: from torch import cuda, bfloat16import import transformers 然後選擇我們要的Meta模型,這邊可以是Llama 2或者是Llama 3,後者是Meta最新釋出的模型。 同時我們也讓系統自
第一步先在Python環境中安裝本次專案需要用到的Library,相關指令如下: !pip install accelerate==0.21.0 !pip install transformers==4.31.0 !pip install tokenizers==0.13.3 !pip insta
你可能也想看
Google News 追蹤
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
Thumbnail
美國總統大選只剩下三天, 我們觀察一整週民調與金融市場的變化(包含賭局), 到本週五下午3:00前為止, 誰是美國總統幾乎大概可以猜到60-70%的機率, 本篇文章就是以大選結局為主軸來討論近期甚至到未來四年美股可能的改變
Thumbnail
Faker昨天真的太扯了,中國主播王多多點評的話更是精妙,分享給各位 王多多的點評 「Faker是我們的處境,他是LPL永遠繞不開的一個人和話題,所以我們特別渴望在決賽跟他相遇,去直面我們的處境。 我們曾經稱他為最高的山,最長的河,以為山海就是盡頭,可是Faker用他28歲的年齡...
Thumbnail
大家好!相信大家也常常使用ChatGPT 這個人工智能工具,經過半年,它已經成為生活必備的一個工具了,包含工作,生活,娛樂,都可以常常使用,生成文案,諮詢內容,聊天娛樂等等 但是,ChatGPT 似乎有點偷懶呀!
Thumbnail
確保提問效果,掌握「場景、方式、策略、結果」四大要素讓ChatGPT回應更精確。場景描述需求情境,方式談事物原理,策略是解決方法,結果闡述期望效益。不應簡單說「想要搞笑的抖音爆款」,而要明確背景、考量因素及期望成果。透過此技巧,可提升ChatGPT的準確度。
Thumbnail
這兩條指令都是為了通過問答的方式,引導ChatGPT深入理解用戶的需求並提供更精確的回答。這種方法確實可以提高回答的准確率和深度。您可以根據自己的情境填充[角色]、[任務]、[結果]和[數量]這些佔位符,來得到更具體的問題和答案。
Thumbnail
使用ChatGPT時,可以透過"[]"中括號精簡指令,例如[健康營養師]或[旅行規劃師]定位角色。此外,"[]"也能定義AI的回答風格,如[幽默風格]或[專業風格]。還可指定回答形式,例如[詳細回答]或[簡短回答]。這種方式不僅簡潔、高效,也使提問者更加深思熟慮,避免成為只會複製粘貼的人。
Thumbnail
AI聊天機器人ChatGPT功能持續進化,開放語音對話及圖片解析功能,進一步提升人機互動體驗。 開發商OpenAI宣布,ChatGPT將推出語音功能,結合5種專業真人配音,支持用戶直接開口提問,AI即時以語音回答,實現更為直觀流暢的人機對話。 此外,ChatGPT也將能解析用戶上傳的圖片內容
Thumbnail
ChatGPT 帶來的 AI 技術應用非常多元,這幾個月我也陸續介紹不少相關應用,其中有些非常實用且受到大家的喜愛。例如:GPT Translator,這個應用可以讓你利用 AI 技術幫你進行語言翻譯,對於想要出國旅遊的使用者來說,他不僅可以讓你更精準的與外國人進行溝通,同時還可以藉由他語音輸入功能
Thumbnail
我請ChatGPT告訴我,如果他是人類,最喜歡吃什麼… 然後我再把文字描述貼到Bing Image Creator… 最後我幫我太太問…
Thumbnail
我決定開始寫一些大家可能不愛看的「烏鴉文」。因為我畢竟只是個退休精神科醫師,資訊並非我的專長,當初之所以投身測試ChatGPT,初衷其實是呼應OpenAI執行長的想法: 讓更多人知道AI的壞處,並且認清AI可能帶來的全面、強烈衝擊。在功能更驚人的AI(甚至「強AI」)出現以前,先讓人類有時間思考、討
Thumbnail
(本文附圖皆自ChatGPT截圖) 坊間已經有很多文章,是關於「如何問對問題」才能讓ChatGPT好好回答,才能得到自己想要的答案。問題是,這都需要具備語文、邏輯等能力,而且都不是一蹴可及,也不是想要加強就一定能加強的。 萬一你正好不具備這些能力怎麼辦?今天我就為大家示範如何用最簡單的「召喚」方式
Thumbnail
導讀:近日備受關注的ChatGPT智慧聊天機器人上線僅2個月,活躍用戶就破了億。現在不僅成為了許多業界專業人士的關注重點,更變成了我們社交中不可避免的話題。 · ChatGPT是什麼?能做什麼? · ChatGPT如何看待碳中和? · ChatGPT帶給我們的雙碳啟示
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
Thumbnail
美國總統大選只剩下三天, 我們觀察一整週民調與金融市場的變化(包含賭局), 到本週五下午3:00前為止, 誰是美國總統幾乎大概可以猜到60-70%的機率, 本篇文章就是以大選結局為主軸來討論近期甚至到未來四年美股可能的改變
Thumbnail
Faker昨天真的太扯了,中國主播王多多點評的話更是精妙,分享給各位 王多多的點評 「Faker是我們的處境,他是LPL永遠繞不開的一個人和話題,所以我們特別渴望在決賽跟他相遇,去直面我們的處境。 我們曾經稱他為最高的山,最長的河,以為山海就是盡頭,可是Faker用他28歲的年齡...
Thumbnail
大家好!相信大家也常常使用ChatGPT 這個人工智能工具,經過半年,它已經成為生活必備的一個工具了,包含工作,生活,娛樂,都可以常常使用,生成文案,諮詢內容,聊天娛樂等等 但是,ChatGPT 似乎有點偷懶呀!
Thumbnail
確保提問效果,掌握「場景、方式、策略、結果」四大要素讓ChatGPT回應更精確。場景描述需求情境,方式談事物原理,策略是解決方法,結果闡述期望效益。不應簡單說「想要搞笑的抖音爆款」,而要明確背景、考量因素及期望成果。透過此技巧,可提升ChatGPT的準確度。
Thumbnail
這兩條指令都是為了通過問答的方式,引導ChatGPT深入理解用戶的需求並提供更精確的回答。這種方法確實可以提高回答的准確率和深度。您可以根據自己的情境填充[角色]、[任務]、[結果]和[數量]這些佔位符,來得到更具體的問題和答案。
Thumbnail
使用ChatGPT時,可以透過"[]"中括號精簡指令,例如[健康營養師]或[旅行規劃師]定位角色。此外,"[]"也能定義AI的回答風格,如[幽默風格]或[專業風格]。還可指定回答形式,例如[詳細回答]或[簡短回答]。這種方式不僅簡潔、高效,也使提問者更加深思熟慮,避免成為只會複製粘貼的人。
Thumbnail
AI聊天機器人ChatGPT功能持續進化,開放語音對話及圖片解析功能,進一步提升人機互動體驗。 開發商OpenAI宣布,ChatGPT將推出語音功能,結合5種專業真人配音,支持用戶直接開口提問,AI即時以語音回答,實現更為直觀流暢的人機對話。 此外,ChatGPT也將能解析用戶上傳的圖片內容
Thumbnail
ChatGPT 帶來的 AI 技術應用非常多元,這幾個月我也陸續介紹不少相關應用,其中有些非常實用且受到大家的喜愛。例如:GPT Translator,這個應用可以讓你利用 AI 技術幫你進行語言翻譯,對於想要出國旅遊的使用者來說,他不僅可以讓你更精準的與外國人進行溝通,同時還可以藉由他語音輸入功能
Thumbnail
我請ChatGPT告訴我,如果他是人類,最喜歡吃什麼… 然後我再把文字描述貼到Bing Image Creator… 最後我幫我太太問…
Thumbnail
我決定開始寫一些大家可能不愛看的「烏鴉文」。因為我畢竟只是個退休精神科醫師,資訊並非我的專長,當初之所以投身測試ChatGPT,初衷其實是呼應OpenAI執行長的想法: 讓更多人知道AI的壞處,並且認清AI可能帶來的全面、強烈衝擊。在功能更驚人的AI(甚至「強AI」)出現以前,先讓人類有時間思考、討
Thumbnail
(本文附圖皆自ChatGPT截圖) 坊間已經有很多文章,是關於「如何問對問題」才能讓ChatGPT好好回答,才能得到自己想要的答案。問題是,這都需要具備語文、邏輯等能力,而且都不是一蹴可及,也不是想要加強就一定能加強的。 萬一你正好不具備這些能力怎麼辦?今天我就為大家示範如何用最簡單的「召喚」方式
Thumbnail
導讀:近日備受關注的ChatGPT智慧聊天機器人上線僅2個月,活躍用戶就破了億。現在不僅成為了許多業界專業人士的關注重點,更變成了我們社交中不可避免的話題。 · ChatGPT是什麼?能做什麼? · ChatGPT如何看待碳中和? · ChatGPT帶給我們的雙碳啟示