LLM
含有「LLM」共 146 篇內容
全部內容
發佈日期由新至舊
一、什麼是 RAG？
RAG 結合兩個階段：
檢索（Retrieval）： 從外部知識庫檢索與提問語意相近的資料。
生成（Generation）： 將檢索到的內容當作 context，一併輸入 LLM 中生成回答。
近期LLM研究論文，涵蓋推理能力增強、檢索機制創新、人機協作、安全風險評估等主題。
LLM 朝更接近代理人發展，但也有自利行為和偽裝作惡等隱憂。文章介紹 RAG+檢索增強生成框架，評估 AI 代理人對勞動力的影響，以及 AI 代理人的「代理失準」風險及評估 AI 能力的 ALE-Bench 平臺。
Pydantic ：資料驗證的超強幫手
Pydantic 是 Python 中強型別資料驗證與處理的標準工具，特別適合用於 API 的請求 / 回應資料結構驗證。
FastAPI 是一個基於 Python 3.7+ 的 高效能 Web 框架，其特點是：
超高速（基於 Starlette + Pydantic）
自動產生 Swagger API 文件
嚴謹的資料驗證與型別檢查
原生支援非同步（async / await）
隨著AI LLM的風行，使用者找資料只要問AI，不需要在搜尋引擎裡爬文，LLM成為使用者新一代的入口網站。全新的概念：生成引擎優化Generative Engine Optimization (GEO)，將成為網路行銷顯學。這篇文章幫你摘要GEO實作的核心重點，讓你更快加入GEO的行列。
目標
✅ 建立 FastAPI API，讓應用可以透過 REST API 進行 LLM 查詢
✅ 結合 RAG 技術，提高 LLM 回應的準確度
✅ 存入及查詢 FAISS 向量資料庫，讓 LLM 檢索外部知識庫
什麼時候AI開始否認第四十七任美國總統是唐納川的了?然而又是什麼時候開始承認美國第四十七任總統是唐納川普?一個簡單的錯誤，一個永遠不被承認的事實，一群西元時代真正應該去麥當勞舀薯條的人，而不是在矽谷辦公室自稱工程師的社會主義者。
AI幻覺（AI Hallucination）是指人工智慧（AI）生成的內容包含錯誤、不準確或完全虛構的資訊，但卻表現得像是真實可靠的答案。這種現象通常發生在大型語言模型（LLM）或其他生成式AI系統中，並可能導致誤導性的結果。
這篇文章提供關於注意力機制(Attention Mechanism)的課程資訊，包含課程名稱、所需時間、難易程度、適合對象以及課程連結，並深入淺出地解釋注意力機制的概念、傳統RNN Encoder-Decoder的缺點、注意力機制如何解決這些問題以及AI如何實際應用注意力機制。文末並提供課程總結。
本篇探討 Prompt Engineering 的策略與應用，並介紹一個 Prompt Engineering 實驗平臺專案，平臺允許使用者輸入任務敘述、選擇風格和提示策略，比較不同 Prompt 的回應結果，有助於學習如何設計 Prompt 模板來影響 LLM 行為及比較不同提示策略對結果的影響。
