我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。
- 一種通過向 Prompt 中添加信息來使用檢索增強生成(RAG)的詢問方法
- 利用 Ada 嵌入模型的 RAG 搜索和詢問功能
Prompt Design 和 Prompt Engineering 是兩個看似相似的術語,但它們將帶您進入新的水平:
- Prompt Design 只需要最終使用者輸入問題或指令並將其提交給聊天模型
- Prompt Engineering 涉及建立複雜的訊息來引導聊天模型,例如,有時 ChatGPT 無法回答問題,因為它的訓練資料不包含必要的資訊,例如,資料集可能是在事件發生之前建構的,或者,該資訊從一開始就不在資料集中,在這種情況下,我們必須從 Prompt Design 轉向 Prompt Engineering
我們先安裝一些必要依賴,方便後續使用:
!pip install --upgrade nltk -qq
import nltk
nltk.download('punkt') # Use punkt Sequence Tokenizer
!pip install gensim -qq
import gensim