我們人類和ChatGPT的對話技巧也是需要學習的,有鑑於此,我想要一天分享一點「和ChatGPT對話的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。
基於 "Rethinking the Role of Demonstrations: What Makes In-Context Learning Work" 一文的見解,某些指導方針可以提高 Few-Shot Prompting 的有效性:
- 標籤定義:清晰的、與任務相關的標籤起著關鍵作用,例如,如果任務是分析陳述的情緒,則標籤應明確定義為快樂和悲傷
- 平衡輸入分佈:確保範例的多樣化和平衡分佈是泛化性的關鍵,例如,如果任務是將水果分類,請確保演示中每個類別的範例分佈均衡
- 格式一致性:範例中一致的格式有助於理解和準確性
- 隨機標籤效用:有時,即使是隨機或不正確的標籤,憑藉其結構,也可以為模型提供學習線索
- 真實分佈取樣:從真實的標籤分佈 (而不是均勻分佈) 中選擇隨機標籤,因為它可以增強模型對問題的理解並提高其效能,例如,如果任務是將部落格文章分類,並且標籤的真實分佈是 50% 旅行、20% 食品、15% 時尚和 15% 科技,則根據此分佈選擇隨機標籤,例如,“旅行,部落格文章 1;食物,部落格文章 2;旅行,部落格文章 3;科技,部落格文章 4;”輸入:“部落格文章 5”,輸出:模型更有可能根據標籤的真實分佈進行準確分類