理解推薦系統:從召回到重排的完整流程

閱讀時間約 5 分鐘

最近和產品團隊同事討論推薦系統時,發現大家對於推薦系統流程缺乏共通的語言,導致在溝通時耗費了較多時間來釐清「目前討論的推薦系統的哪一個步驟」

為了提升溝通效率,我分享了一部講解推薦系統流程的影片(觀看影片),並藉此文章記錄影片內容,補充我個人的理解以及公司的實際案例


推薦的核心

在介紹推薦系統流程之前,先介紹一下「推薦」這件事實際上在做什麼。多數推薦系統的應用場景都是:「推薦適合的 itemuser

舉影片提到的小紅書為例,user 是使用者,item 是內容(文章或影片) ;而以我們公司的獵人頭平台為例,推薦的目標是希望幫 Job 找到適合的人選,因此 user 是 JD,item 是人選


召回(Retrieval)

推薦系統的第一步是召回,目的是從龐大的 item pool 中挑選出一群適合的 items。召回的主要目標是大量減少潛在可考慮的 items 數量(後稱 candidates),在這一步精準度不必特別高,因此通常使用簡單的邏輯或演算法進行篩選

例如,影片中提到的「關注的作者內容推薦」,未經機器學習演算法,只依賴用戶特徵進行篩選;我們公司的案例則是透過「JD 與 Resume 的文本相似度」來進行召回

在召回時,縮減 candidates 的數量至關重要,但也需謹慎避免過早篩掉合適的 candidates。實務上常會採用多路召回的方式,結合多種邏輯與演算法,以確保能夠包含更多可能的適合 items


因為有了篩選的步驟,就有可能會在這一階段把適合 user 的 items 濾掉。而我們之所以願意冒這個風險,不是直接幫所有 item 算一個之於 user 的興趣分數,其中的原因在於「運算成本」(包含時間與金錢成本)。

如果 item pool 很大,在每個 user 進來時都要幫所有的 item 計算興趣分數,一來會運算很久,讓產品使用者體驗不好;二來也會造成很大的機器負擔,需要用較高規格的機器才有辦法完成運算,這兩點對於系統來說都是不小的成本,因此需要透過召回的步驟讓我們可以在更短的時間用更少的資源完成運算。


粗排與精排

粗排和精排的主要目的都是對召回的 candidates 進行打分和排序。兩者的差異在於 candidates 的數量:粗排的 candidates 數量較多,因此不會使用過於複雜的演算法;而精排的 candidates 數量較少,則可以使用更複雜但精準度更高的演算法

在我們公司的案例中,粗排使用我們訓練好的機器學習模型快速打分,而在精排階段,則利用大型語言模型(LLM)根據 JD 對粗排後的前十名 candidates 進行重新排序

這樣的架構主要考量了幾個因素:

  1. LLM 的擴展性:可輕鬆實現推薦邏輯的客製化,像是如果想考慮用戶的偏好(e.g. 客戶喜歡有新創背景的 resume),只需要把這個邏輯加到 prompt 就可以,不需要重新訓練模型
  2. 運算成本:由於 LLM 的計算成本較高,因此不適合用於數量級較大的排序,前面還是需要透過機器學習模型進行初步打分。


需要補充的是,雖然粗排和精排都是在排序,但由於場景不同,表現優異的演算法不一定適用於另一個階段


舉例來說:

推薦的目標是推薦讀者有興趣閱讀的書籍,而在粗排的階段,可能會根據讀者過去閱讀的歷史,推薦一批相同類型或相似主題的書籍,如科幻小說類書籍。在精排的階段,會再根據書籍的熱門程度、近期出版的熱度或書籍的讀者評價做進一步排序

在這個情境下,如果直接把精排的邏輯套用在粗排上,可能會推薦出近期熱門但不符合該讀者個人喜好的書籍,忽略了讀者偏好科幻小說這一粗排的關鍵特徵,導致排序結果不佳


重排

推薦系統的最後一個步驟為重排,主要是為了滿足一些在純排序時無法考慮到的商業目標

舉影片中提到的「多樣性抽樣」為例,之所以需要在排序完後再做多樣性抽樣,主要是希望讓使用者可以看到更多不同類型的內容,這件事有助於長期的留存。如果不做這件事,用戶可能會一直看到相同類型的內容推薦,看久了就容易流失。但有了內容推薦的多樣性後,雖然可以會推出一些用戶不喜歡的內容,犧牲一些短期的指標(如點擊率),但有機會讓用戶發掘新的他有興趣的內容,進而提升留存率以及使用時長,有助於滿足平台的商業目標



謝謝你看到這邊,如果你看完文章後有任何想法或建議,都很歡迎在留言區提出分享!或是歡迎加我的 Linkedin 與我交流

1會員
10內容數
紀錄從事數據分析工作的心得與生活所學
留言0
查看全部
發表第一個留言支持創作者!
數據分析師的雜談 的其他內容
使用 BigQuery ML,讓 Data Analyst 可以在僅會 SQL 的情況下,建立預測模型,做到「快速分析多個特徵」給予客戶分群建議
這篇文章分享了作者在參與預估專案時的思考脈絡和學習點,透過兩個具體的案例,探討了預估方法中重要的假設和挑戰。
好的數據分析師要能做到釐清合作方需求、拆解問題並用數字詮釋問題、解釋分析結果以及寫出好維護的 SQL
使用 BigQuery ML,讓 Data Analyst 可以在僅會 SQL 的情況下,建立預測模型,做到「快速分析多個特徵」給予客戶分群建議
這篇文章分享了作者在參與預估專案時的思考脈絡和學習點,透過兩個具體的案例,探討了預估方法中重要的假設和挑戰。
好的數據分析師要能做到釐清合作方需求、拆解問題並用數字詮釋問題、解釋分析結果以及寫出好維護的 SQL
你可能也想看
Google News 追蹤
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
Thumbnail
美國總統大選只剩下三天, 我們觀察一整週民調與金融市場的變化(包含賭局), 到本週五下午3:00前為止, 誰是美國總統幾乎大概可以猜到60-70%的機率, 本篇文章就是以大選結局為主軸來討論近期甚至到未來四年美股可能的改變
Thumbnail
Faker昨天真的太扯了,中國主播王多多點評的話更是精妙,分享給各位 王多多的點評 「Faker是我們的處境,他是LPL永遠繞不開的一個人和話題,所以我們特別渴望在決賽跟他相遇,去直面我們的處境。 我們曾經稱他為最高的山,最長的河,以為山海就是盡頭,可是Faker用他28歲的年齡...
Thumbnail
從委託、設計、提案至請款的五大階段。接案設計師不只是「會設計」而已,更需要學會與客戶溝通,甚至是基本的文件處理。
Thumbnail
企業搬家需要周密的準備和計劃,包括搬家必要性的評估、新辦公地點的選擇、跨部門搬家團隊的組建、詳細的搬家計劃制定、有效的員工溝通與培訓,以及業務連續性的保障措施。這些步驟將有效減少搬家過程中對企業運作的影響,確保整個搬家過程的順利進行。
在現代企業管理中,如何有效地處理各類工作任務與客戶需求,是提高整體運營效率的核心。工單系統,作為一種集成管理工具,已成為許多企業提升效率與服務質量的重要手段。
這篇文章介紹了機關檔案分類表的編製方法,以及在文書處理過程中需要注意的事項。同時也提到了檔案管理人員的工作內容和相關法令。文章總結了檔案管理的重要性和相關程序。
Thumbnail
藉由本篇分享在推動工作、專案、計畫時的思維理則,並分成了七個步驟、21個要項。內容包含了蒐集、分析、比較、計畫、實施、查驗和行動等階段,涵蓋了從開始到結束的整個執行流程,希望對於企業管理者以及執行計畫的夥伴都有相當的幫助。
Thumbnail
如何才能勝任客戶成功?如何順暢解決客戶難題?遇到客戶的抱怨該如何處理?這篇想用三個步驟來記錄過往的客戶服務流程,分別是:釐清客戶問題、確認客戶資源、提供客戶建議。
Thumbnail
本篇討論專案經理收到任務後的基本動作,還有如何挖掘出簡報文字之下客戶真正想要的東西。
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
Thumbnail
美國總統大選只剩下三天, 我們觀察一整週民調與金融市場的變化(包含賭局), 到本週五下午3:00前為止, 誰是美國總統幾乎大概可以猜到60-70%的機率, 本篇文章就是以大選結局為主軸來討論近期甚至到未來四年美股可能的改變
Thumbnail
Faker昨天真的太扯了,中國主播王多多點評的話更是精妙,分享給各位 王多多的點評 「Faker是我們的處境,他是LPL永遠繞不開的一個人和話題,所以我們特別渴望在決賽跟他相遇,去直面我們的處境。 我們曾經稱他為最高的山,最長的河,以為山海就是盡頭,可是Faker用他28歲的年齡...
Thumbnail
從委託、設計、提案至請款的五大階段。接案設計師不只是「會設計」而已,更需要學會與客戶溝通,甚至是基本的文件處理。
Thumbnail
企業搬家需要周密的準備和計劃,包括搬家必要性的評估、新辦公地點的選擇、跨部門搬家團隊的組建、詳細的搬家計劃制定、有效的員工溝通與培訓,以及業務連續性的保障措施。這些步驟將有效減少搬家過程中對企業運作的影響,確保整個搬家過程的順利進行。
在現代企業管理中,如何有效地處理各類工作任務與客戶需求,是提高整體運營效率的核心。工單系統,作為一種集成管理工具,已成為許多企業提升效率與服務質量的重要手段。
這篇文章介紹了機關檔案分類表的編製方法,以及在文書處理過程中需要注意的事項。同時也提到了檔案管理人員的工作內容和相關法令。文章總結了檔案管理的重要性和相關程序。
Thumbnail
藉由本篇分享在推動工作、專案、計畫時的思維理則,並分成了七個步驟、21個要項。內容包含了蒐集、分析、比較、計畫、實施、查驗和行動等階段,涵蓋了從開始到結束的整個執行流程,希望對於企業管理者以及執行計畫的夥伴都有相當的幫助。
Thumbnail
如何才能勝任客戶成功?如何順暢解決客戶難題?遇到客戶的抱怨該如何處理?這篇想用三個步驟來記錄過往的客戶服務流程,分別是:釐清客戶問題、確認客戶資源、提供客戶建議。
Thumbnail
本篇討論專案經理收到任務後的基本動作,還有如何挖掘出簡報文字之下客戶真正想要的東西。