LLM上課分享 - 關於近期很紅的LangChain五大模塊

最近在上LLM線上課 來分享我所學到的 LangChain LangChian是把ChatGPT API 轉換為物件導向的形式來使用我所學到 LangChain 的五個方法 : Prompt Template / LLMChain / OutputParser / Agent / ConversationChain

這些知識分享和所學都是來自Tibame緯育大型語言模型LLM企業應用開發實戰班，這是一個直播線上課程，內容會提及Langchian和向量資料庫，推薦給大家! (https://www.tibame.com/program/llm)

1. Prompt Template

介紹：

是 LangChain 中的一個核心概念，用於定義和格式化發送給模型的訊息。它可以幫助開發者建立可重複使用的模板，確保對模型的輸入始終遵循特定的結構。

• 系統模板 System Template：用於設置對話的背景和規則，通常包含模型在回答問題時應遵循的指示或角色。

• 人類模板 Human Template：用於定義來自用戶的輸入訊息，這些訊息是模型需要回應的主要內容。它通常包括用戶的問題或需求。

應用：

• 多輪對話： 在多輪對話中保持一致性，確保模型能夠連貫地理解和回應上下文。
• 生成提示：根據用戶的行為和輸入生成提示，提供更個性化的體驗。

2. LLMChain

LLMChain 是 LangChain 中的核心組件，將提示模板和語言模型結合在一起。負責處理輸入和輸出，並確保每次調用模型時都遵循定義的提示模板。

應用：

• 模塊化設計：允許開發者將不同的模型和提示模板組合在一起，實現模組靈活組合。

3. 各種文件格式的 OutputParser 如JsonOutputParser

OutputParser 是用於解析模型輸出的工具，確保輸出數據符合預期格式。

例如，JsonOutputParser 將模型的輸出解析為 JSON 格式，方便後續處理和使用。

應用：

• 自定義解析器：開發者可以根據需求創建自定義的 OutputParser，以處理特定格式的輸出，例如 XML、CSV 或自定義的數據結構。

詳細網址在範例

• 數據驗證：OutputParser 可以用來驗證輸出的數據，確保其符合預期格式和數據完整性。
• 應用場景：適用於API 集成和報告生成等需要標準化數據輸出的應用。

4. Agent

介紹：

• Agent 是 LangChain 中的一個強大功能，允許模型與外部工具和服務進行互動。Agent 可以加載和使用多種工具，從而增強模型的能力和功能。

延伸：

• 多工具集成：Agent 可以集成多種工具，如搜索引擎、計算器、數據庫查詢等，實現多功能應用。
• 智能決策：通過 Agent，可以讓模型根據上下文和需求進行智能決策，選擇合適的工具來回答問題或執行任務。

範例包含Agent本身的計算

也透過Agent配合google-serach來查找最新問題的解答

5. ConversationChain

介紹：

• 是用於管理和維護對話上下文的工具，允許模型在多輪對話中保持上下文記憶。這對於需要連貫對話和上下文理解的應用非常重要。

延伸：

• 記憶管理：ConversationChain 可以記住和管理對話中的關鍵訊息，確保模型能夠正確理解和回應用戶的需求。
• 多輪對話策略：可以設計和實現多輪對話策略，確保對話的自然流暢和邏輯連貫。

應用場景：

適用於聊天機器人、智能客服和教育輔助工具等需要多輪對話和上下文記憶的應用。

如果想看示範, 在我的Threads中會有更詳細的範例和說明~