AI說書 - 從0開始 - 313 | Prompt Design 和 Prompt Engineering 差異

我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。

ChatGPT 模型令人印象深刻，已經讓所有人感到驚訝，然而，ChatGPT 有記憶問題！它只記得從訓練數據中學到的東西，例如，2024 年 1 月時，ChatGPT 的知識截止日期為 2023 年 4 月，它無法回答有關 2023 年 4 月之後事件的問題，OpenAI 已經透過 BING 搜索引擎找到了某些問題的解決辦法，但這仍然不夠，為此，本章將闡述以下兩方法：

• 一種通過向 Prompt 中添加信息來使用檢索增強生成（RAG）的詢問方法
• 利用 Ada 嵌入模型的 RAG 搜索和詢問功能

Prompt Design 和 Prompt Engineering 是兩個看似相似的術語，但它們將帶您進入新的水平：

• Prompt Design 只需要最終使用者輸入問題或指令並將其提交給聊天模型
• Prompt Engineering 涉及建立複雜的訊息來引導聊天模型，例如，有時 ChatGPT 無法回答問題，因為它的訓練資料不包含必要的資訊，例如，資料集可能是在事件發生之前建構的，或者，該資訊從一開始就不在資料集中，在這種情況下，我們必須從 Prompt Design 轉向 Prompt Engineering

我們先安裝一些必要依賴，方便後續使用：

!pip install --upgrade nltk -qq
import nltk
nltk.download('punkt') # Use punkt Sequence Tokenizer
!pip install gensim -qq
import gensim