我將工具分為三類:
- 開箱即用的整合平台 (All-in-One Platforms):提供完整的使用者介面,部署後即可快速開始使用,適合初學者或希望快速驗證想法的使用者。
- 低程式碼/無程式碼視覺化建構工具 (Low-Code/No-Code Builders):提供圖形化介面,讓您透過拖拉拽的方式組合不同的功能模塊(如模型、資料庫、提示詞),適合想要客製化流程但不想寫太多程式碼的使用者。
- 為開發者設計的框架 (Developer-Focused Frameworks):提供最底層的函式庫和工具鏈,讓開發者擁有最高的自由度和控制權來打造客製化應用,適合專業開發者。
1. 開箱即用的整合平台
這類工具的優點是部署簡單,並且馬上就有一個美觀且功能完整的網頁介面。

2. 低程式碼/無程式碼視覺化建構工具
這類工具讓您像畫流程圖一樣建立 RAG 應用,自由度比整合平台高。
3. 為開發者設計的框架
如果您想從零開始,用程式碼打造一個完全客製化的 RAG 應用,那麼您需要的是框架而不是現成的網站。

選擇建議(問問自己要甚麼):
我只是想找個私人的 ChatGPT 來問答我的文件嗎?- 推薦:AnythingLLM 或 Dify.AI。兩者都非常容易上手,Dify 的功能更全面一些。
- 我想要自訂問答的流程,例如「先用一個模型總結問題,再用另一個模型回答」,但又不想寫程式碼?
- 推薦:Flowise AI 或 Dify.AI。Flowise 像樂高一樣自由組合,Dify 則在一個完整的平台中提供了這個功能。
- 我是一名 Python/TypeScript 開發者,我想完全掌控應用的每一個細節,並將其打造成一個商業級產品?
- 推薦:如果您的應用核心就是 RAG,且對檢索的精準度和效能要求極高,請優先考慮 LlamaIndex。如果您的應用不僅有 RAG,還可能包含複雜的 Agents、工具使用、記憶體管理等多種功能,LangChain 提供了更廣泛的工具集。