AI說書 - Prompt Engineering - 158 | 自動輸出細化探討

我們人類和ChatGPT的對話技巧也是需要學習的，有鑑於此，我想要一天分享一點「和ChatGPT對話的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。

自動輸出細化 (AOR) 概念是大型語言模型領域的一個有前途的進步，它提供了一種新穎的方法，透過利用大型語言模型生成、評估和完善自己的輸出的能力來提高大型語言模型的輸出品質，然而，與任何新興技術一樣，有幾個領域值得進一步討論和探索，以增加理解和潛在的未來修改：

• 回饋品質：AOR 所依賴的主要因素之一就是良好的回饋，如果模型不能對其工作提供清晰且有用的回饋，那麼結果不會有太大改善，未來，我們需要找到方法讓這種回饋變得更好，這可以透過創建更好的提示或以不同的方式訓練模型來實現

• 何時停止：一個關鍵的挑戰是知道模型何時應該停止最佳化其輸出，如果我們停止得太早，結果可能不是最好的。但如果我們讓它持續太久，我們可能會浪費資源，甚至讓結果變得更糟，我們可能會考慮諸如模型對其結果的確定程度或每個步驟的結果變化程度等因素，以幫助決定何時停止

• 特定於任務的細化：雖然自動輸出細化是一種可應用於廣泛任務的通用方法，但根據每個任務的特定特徵來客製化細化過程可能會有好處，例如，與涉及生成事實內容的任務相比，涉及生成創意內容的任務可能會受益於不同的細化方法，未來的工作可以探索針對特定任務的細化策略，以進一步提高職責範圍的有效性

• 模型限制：雖然 AOR 可以幫助提高大型語言模型的輸出質量，但它並不是能夠克服這些模型的所有限制的靈丹妙藥，例如，它可能無法解決與模型對世界的理解、推理能力或處理模糊或矛盾提示的能力相關的問題，這些都是基本的限制，需要透過模型架構、訓練方法和資料的進步來解決