RAG
含有「RAG」共 25 篇內容
全部內容
發佈日期由新至舊
本文深入淺出地介紹AI如何利用上下文視窗（Context Window）技術來理解和回應使用者提問，並闡述背後的系統架構和機制，包含系統如何過濾雜訊，避免記憶體超載，以及寫入和讀取記憶的過程，並以類似RAG架構作比喻。
付費限定
深入了解檢索式增強生成 (RAG) 如何解決大型語言模型 (LLM) 的幻覺與資訊時效性問題。TN科技筆記解析不同RAG方法以及如何選擇最適合的方案，讓你的 AI 更智慧、更可靠！
Gen AI prompt 練習 25.07.13
今天的練習是由Gemini出題，試作RAG進階考量的Prompt。
-- With Gemini --
Gemini 說：
關於今天的練習與思考，我們將結合 RAG 的進階考量，設計一個模擬的 Prompt。
請設計一個 RAG 系統的「
深入了解檢索式增強生成 (RAG) 如何解決大型語言模型 (LLM) 的幻覺與資訊時效性問題。TN科技筆記解析不同RAG方法以及如何選擇最適合的方案，讓你的 AI 更智慧、更可靠！
第七天：RAG (Retrieval-Augmented Generation) (檢索增強生成) 概念
(with Gemini)
我：
我認為有幾個重點：
1.RAG是一個AI架構，包含兩個部分：資訊檢索 (Retrieval)，和，大型語言模型生成 (Generation)。
▪
Pinecone：設計簡單、穩定高效、支援向量更新與 metadata
(免費方案足夠實驗使用)
TN科技筆記將節錄重點介紹 Ilya 的獲勝策略，並分享其在實戰中積累的寶貴經驗，幫助讀者理解如何在企業級應用中實踐 RAG。
一、什麼是 RAG？
RAG 結合兩個階段：
檢索（Retrieval）： 從外部知識庫檢索與提問語意相近的資料。
生成（Generation）： 將檢索到的內容當作 context，一併輸入 LLM 中生成回答。
目標
✅ 建立 FastAPI API，讓應用可以透過 REST API 進行 LLM 查詢
✅ 結合 RAG 技術，提高 LLM 回應的準確度
✅ 存入及查詢 FAISS 向量資料庫，讓 LLM 檢索外部知識庫
Mistral OCR：由Mistral AI打造的全新光學字元辨識（OCR）工具 API，從頂尖的複雜文件理解能力到多語多模態支援，再到與檢索增強生成（RAG）系統的完美結合，其目標是解鎖數位化資訊的潛力。
