讓人工智慧取得自我反思的能力-回答正確率大幅提升

Self-RAG: Learning to Retrieve, Generate, and Critique through Self-Reflection

Akari Asai, Zeqiu Wu, Yizhong Wang, Avirup Sil, Hannaneh Hajishirzi

作者提供了他們的代碼和訓練好的模型，以供進一步研究使用。

前言:

論文引入了一個新的結合資料檢索自我反思（self-reflection)，大幅提升回答長篇內容的品質。手法就是創造了三種反思標記，讓大型語言模型去評判檢索來的資料與問題有相關，有足夠理論事實基礎，並且能評判回答內容存在有用的資訊，如下圖所示。

在網路上找到的資料未必能用來回答使用者的問題，使用反思標籤去Critic，強化以後可以改善回答問題的品質

實用性探討:

這些反思標記賦予語言模型的開發可控性，使其能夠根據不同任務需求調整自身行為。實驗結果顯示，SELF-RAG在各種任務上表現明顯優於現有的LLM和檢索增強型模型。

具體來說，SELF-RAG在開放領域問答、推理和事實驗證等任務中優於ChatGPT和檢索增強型的Llama2-chat。

SELF-RAG在改進長篇生成的事實性和引文準確性方面取得了明顯的進展。

藉由各種反思標籤，來提取純化拿來回答的內容

解決痛點:

儘管大型語言模型（LLM）具有卓越的能力，但它們存在生成包含錯誤事實的風險，因為它們完全依賴內部參數化的知識。

這份論文的重要性在於它提出了SELF-RAG框架，通過檢索和自我反思，改進了大型語言模型的質量和事實性。這個框架的特點包括：

1. 允許LLM根據需求自動檢索段落，而不是盲目檢索固定數量的段落。

2. 賦予LLM能力評估自身生成的內容，從而選擇最佳的生成結果，而不僅僅依賴單一生成結果或外部評估。

3. 提供LLM在推論階段的可控性，以適應不同的任務需求。

訓練資料要確保檢索網路出來的結果與想要回答的問題是有關聯且基於事實的。

導入此技術帶來的好處:

研究者可以在其研究中應用SELF-RAG框架的方法，包括增強現有的語言模型，控制推論階段，提高生成內容的事實性以及應對多樣的任務輸入。同時，作者已提供相關的代碼和模型，以便研究者深入了解SELF-RAG的實現細節，重現研究結果，或者將該方法應用於自己的研究領域，以下是你預期SELF-RAG可以為你的MODEL帶來的好處。

藉由Self-RAG，回答正確率Metric評估指標，有很明顯的提升

SELF-RAG 使用限制:

雖然SELF-RAG框架具有許多優勢，但也存在一些潛在的限制，包括對檢索段落質量和相關性的依賴、仍可能存在事實錯誤或不一致性以及需要大規模訓練語料庫的挑戰。此外，對於複雜的推理或推斷性任務，可能需要更多的處理能力。

引用:

@misc{asai2023selfrag,
      title={Self-RAG: Learning to Retrieve, Generate, and Critique through Self-Reflection}, 
      author={Akari Asai and Zeqiu Wu and Yizhong Wang and Avirup Sil and Hannaneh Hajishirzi},
      year={2023},
      eprint={2310.11511},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

如果你對 AI 充滿熱情，學習上又不想浪費時間，我能夠以過來人的經驗給你不少想法，歡迎在Facebook群裡面留言。

如果想要用Zoom直接交談，為你直接解惑的，也可以點以下連結預約時間 (1小時)

 https://calendly.com/universe_ai/free_appointment