宅D嘉
18 位追蹤者
宅D嘉
18 位追蹤者
有著十年以上的軟體開發經驗，喜歡投資理財，目前喜歡研究區塊鏈相關，了解虛擬貨幣投資或者是區塊鏈開發，喜歡把複雜的東西簡單化，樂於分享我的理財投資生活。
全部內容
由新到舊
Pinecone：設計簡單、穩定高效、支援向量更新與 metadata
(免費方案足夠實驗使用)
一、什麼是 RAG？
RAG 結合兩個階段：
檢索（Retrieval）： 從外部知識庫檢索與提問語意相近的資料。
生成（Generation）： 將檢索到的內容當作 context，一併輸入 LLM 中生成回答。
Pydantic ：資料驗證的超強幫手
Pydantic 是 Python 中強型別資料驗證與處理的標準工具，特別適合用於 API 的請求 / 回應資料結構驗證。
FastAPI 是一個基於 Python 3.7+ 的 高效能 Web 框架，其特點是：
超高速（基於 Starlette + Pydantic）
自動產生 Swagger API 文件
嚴謹的資料驗證與型別檢查
原生支援非同步（async / await）
目標
✅ 建立 FastAPI API，讓應用可以透過 REST API 進行 LLM 查詢
✅ 結合 RAG 技術，提高 LLM 回應的準確度
✅ 存入及查詢 FAISS 向量資料庫，讓 LLM 檢索外部知識庫
AI幻覺（AI Hallucination）是指人工智慧（AI）生成的內容包含錯誤、不準確或完全虛構的資訊，但卻表現得像是真實可靠的答案。這種現象通常發生在大型語言模型（LLM）或其他生成式AI系統中，並可能導致誤導性的結果。
本篇探討 Prompt Engineering 的策略與應用，並介紹一個 Prompt Engineering 實驗平臺專案，平臺允許使用者輸入任務敘述、選擇風格和提示策略，比較不同 Prompt 的回應結果，有助於學習如何設計 Prompt 模板來影響 LLM 行為及比較不同提示策略對結果的影響。
學習內容：
了解 Tokenization、Embedding、向量搜索（FAISS、Chroma）
學習如何微調 LLM（LoRA、PEFT）
準備數據集（清理、標註、格式化）
學習內容：
了解 LLM 的基本原理（Transformer、Attention 機制）
熟悉 Hugging Face、OpenAI API、LangChain 等工具
探索不同 LLM 模型（GPT、Llama、Claude、Mistral）
每個程式開發的開始都是從Hello World開始的，當然我也不免淑的來個Hello World。
