用prompt控制模型內建CoT 的技巧

最新模型 ChatGPT-o1-preview 使用心得2

「提示詞工程已死，但又活了？」

在使用 ChatGPT-o1-preview 時，如果提示詞不夠具體，模型可能會產生過度發散或失控的創意表現。因此，我開始思考，能否利用提示詞來控制模型內建的「思維鏈 (CoT, Chain of Thought)」功能？我將這種控制技巧暫且稱為「prompt engineering for CoT（思維控制提示詞工程）」。

以下是我嘗試後認為有效的兩個技巧：

1.新的Magic words「請盡可能仔細且花時間思考後回答」

根據 OpenAI 自己的說明，模型在有更多思考時間時，表現會更佳。雖然目前用戶無法直接控制 ChatGPT 思考的時長，但為什麼不在提示詞中加入「請盡可能仔細且花時間思考後再回答」或「請從多個角度仔細分析問題」等要求模型分配更多計算資源的語句呢？

經過多次嘗試，我發現這樣的語句確實有效，成功率相當不錯。一句簡單的提示詞似乎可以讓 ChatGPT 的思考時間增加 20% 到 300% 不等。由於 o1-preview 的使用次數有限，歡迎大家來實測這個方法。（雖然這種技巧與prompt injection有些相似，未來可能會被 OpenAI 修正，但趁現在還能用，快試試看！）

2.直接指定思考方向

另一個有效的方式是，在提示詞的最後加入具體的思考方向。舉例如下：

#思考方向

“””

1.(思考的切入點)

2.(思考的切入點)

3.(思考的切入點)

“””

分享一個實際的案例，比如說我詢問ChatGPT「在生成式AI快速發展的時代，各種產業的公司會需要哪一些生成式AI相關的服務呢？（請用繁體中文回答）」。

【原本的情況】：內容生成服務、AI客服與聊天機器人、個人化推薦系統、程式碼自動生成與輔助等等洋洋灑灑列了15項給我。

但我另外加入了提示詞如下：

#思考方向

“””

1.理解使用者的語言所代表的國家/地區和當地產業的關係性

2.探索當地產業與政治經濟與生成式AI之間的關聯性

3.探索生成AI如何能落地應用

“””

【新的情況】：

製造業：產品設計、自動化生產流程優化、預測性維護

醫療保健：生成醫學影像分析、個人化治療方案、生物信息學研究

金融業：風險評估、欺詐檢測、個性化理財建議

文化創意產業：內容創作輔助、虛擬現實體驗、數位行銷

結果的確有效地改變了ChatGPT的思考內容。最後生成的結果的也完全不一樣，有機會更能切合使用者的需求。

附圖提供有沒有加入思考方向的ChatGPT思考內容對照。

(【003號】原文發佈於2024/9/25 觸及人數:847)