C002｜文本嵌入的效果為何在Obsidian中很不理想？
「嵌入 Embedding」這個概念，
是指將「資料 Data」轉換為「向量 Vector」格式的過程。
資料可以是影片的樣本，
可以是音訊的樣本，
可以是圖片的樣本，
可以是文字的樣本。
不同類型的樣本，
可以透過相對應的預訓練神經網路模型，
將資料樣本轉換為「嵌入向量 Embedding Vector」。
嵌入的目的，
是將這些不是數字的資料(影片圖片音訊文字)，
轉換成數字的向量，
這樣神經網路就可以處理，
跑各種最優化演算法了！
附帶一提，
在Obsidian裡面有個外掛叫做「Smart Connections [1]」，
可以透過應用「嵌入」的技術，
來幫助你看到你的筆記之間的關係[2]。
我之前有嘗試安裝這個外掛，
實際使用時，
會經過一段很長的時間，
來將我Obsidian庫中的筆記做嵌入。
根據Smart Connections開法者的說明[2]，
這個外掛會將我們存放在Obsidian的筆記，
轉化為1536維的向量！
我猜轉為向量後，
大概就是用基本的Euclidean Distance判斷筆記之間的遠近。
在我的使用經驗上，
他找出來的相近的筆記，
相近的都是字面上，
而不是字面下的深刻含義。
這對做筆記其實幫助很有限。
Reference
[1]
[2]
留言0
查看全部
你可能也想看
Google News 追蹤
本文介紹了在進行資料分析時，將類別欄位轉換為數值欄位的方法，包括Label Encoding、One-Hot Encoding、Binary Encoding、Target Encoding和Frequency Encoding。每種方法的應用範例、優缺點和適用場景都有詳細說明。
我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。
延續AI說書 - 從0開始 - 44說完 Embedding ，下一步就是闡述 Positional Embedding，其於原始 Transformer 架構中的角色
自訂元件生成位置顧名思義就是可以指定部分HTML區塊渲染在特定的畫面上，即使在不同組件也能把A組件內的部分畫面，展現在B組件上，以下方程式舉例。
上回我們講到 Word Embedding 能夠將字詞表示從使用字典索引改成詞向量表示，且這個詞向量能夠包含一定程度上的語義訊息，今天就讓我們探討 Word Embedding 到底是如何訓練成的。
最近遇到一些人想做音訊的合成，我回答他或許可以從圖像風格轉換中找到些靈感，我才突然想起我對於這部分的認知只止於知道他能做什麼及結果大概如何，對於內部訓練邏輯及結構並沒有認真的去了解，現在剛好趁此機會好好的學習一下。
本文介紹了在進行資料分析時，將類別欄位轉換為數值欄位的方法，包括Label Encoding、One-Hot Encoding、Binary Encoding、Target Encoding和Frequency Encoding。每種方法的應用範例、優缺點和適用場景都有詳細說明。
我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。
延續AI說書 - 從0開始 - 44說完 Embedding ，下一步就是闡述 Positional Embedding，其於原始 Transformer 架構中的角色
自訂元件生成位置顧名思義就是可以指定部分HTML區塊渲染在特定的畫面上，即使在不同組件也能把A組件內的部分畫面，展現在B組件上，以下方程式舉例。
上回我們講到 Word Embedding 能夠將字詞表示從使用字典索引改成詞向量表示，且這個詞向量能夠包含一定程度上的語義訊息，今天就讓我們探討 Word Embedding 到底是如何訓練成的。
最近遇到一些人想做音訊的合成，我回答他或許可以從圖像風格轉換中找到些靈感，我才突然想起我對於這部分的認知只止於知道他能做什麼及結果大概如何，對於內部訓練邏輯及結構並沒有認真的去了解，現在剛好趁此機會好好的學習一下。