AI說書 - 從0開始 - 238 | 微調 GPT 模型之推論

我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。

先列出目前擁有的材料：

• 微調 GPT 模型引言：AI說書 - 從0開始 - 229 | 微調 GPT 模型引言
• 微調 GPT 模型的前置步驟：AI說書 - 從0開始 - 230 | 微調 GPT 模型的前置步驟
• 微調 GPT 模型的函式庫安裝：AI說書 - 從0開始 - 231 | 微調 GPT 模型的函式庫安裝
• 微調 GPT 模型的資料集準備：AI說書 - 從0開始 - 232 | 微調 GPT 模型的資料集準備
• 微調 GPT 模型的資料集檢查：AI說書 - 從0開始 - 233 | 微調 GPT 模型的資料集檢查
• 微調 GPT 模型的資料集檢查：AI說書 - 從0開始 - 234 | 微調 GPT 模型的資料集檢查
• 微調 GPT 模型的必要檔建立：AI說書 - 從0開始 - 235 | 微調 GPT 模型的必要檔建立
• 微調 GPT 模型任務狀態查詢：AI說書 - 從0開始 - 236 | 微調 GPT 模型任務狀態查詢
• 微調 GPT 模型任務狀態查詢：AI說書 - 從0開始 - 237 | 微調 GPT 模型任務狀態查詢

模型經過訓練並準備好完成任務，如果已啟動通知，則微調作業完成時會收到一封電子郵件，將收到一條類似以下訊息：

可以在 Playground 中啟動，選擇微調後的模型並進行測試：

也可以調整模型的溫度參數：