Beam Search

更新於 發佈於 閱讀時間約 2 分鐘

Beam Search(束搜索)是一種常用於自然語言處理和序列生成任務的搜尋演算法,目的是在生成過程中找到機率或評分最高的輸出序列。它是貪心搜尋(Greedy Search)的改進方法,能在可接受的計算成本下同時考慮多個候選解,從而提高生成結果的品質。

主要原理如下:

  • 束寬(beam size):設定一個固定的候選數量k,稱為「束寬」。在生成過程的每個時步,只保留目前機率最高的k個候選序列。
  • 流程: 起始時,從模型輸出所有可能的第一個字,挑出機率最高的k個,作為初始候選。 對每個候選序列,生成下一個字的所有可能結果,合併後從中選出總機率最高的k個,更新候選列表。 重複上述步驟直到生成結束符號或達到最大長度。 最終從候選序列中選擇機率最高者作為輸出。
  • 對比貪心搜尋: 貪心搜尋每一步只選一個最高機率字,速度快但容易陷入局部最優。 Beam Search則保留多條路徑,增加找到全局較佳解的機率。
  • 優缺點: 優點:能平衡搜索效率與解的品質,常用於機器翻譯、文本生成、語音識別等任務。 缺點:束寬越大,計算量和記憶體需求越高;但束寬過小可能錯失較好解。

總結來說,Beam Search是一種通過維持多條高機率候選路徑來優化序列生成結果的啟發式搜尋策略,在生成任務中廣泛應用以提升輸出的連貫性和合理性。

留言
avatar-img
留言分享你的想法!
avatar-img
郝信華 iPAS AI應用規劃師 學習筆記
17會員
455內容數
現職 : 富邦建設資訊副理 證照:經濟部 iPAS AI應用規劃師 AWS Certified AI Practitioner (AIF-C01)
2025/08/15
Dense Retrieval(密集檢索)是一種基於向量語義表示的檢索技術,主要用於自然語言處理領域,特別是在開放域問答(Open-Domain QA)與語料檢索任務中。這種方法通過深度學習模型將查詢(Query)和文檔(Document)編碼成密集的實數向量(dense vector),並根據向量
2025/08/15
Dense Retrieval(密集檢索)是一種基於向量語義表示的檢索技術,主要用於自然語言處理領域,特別是在開放域問答(Open-Domain QA)與語料檢索任務中。這種方法通過深度學習模型將查詢(Query)和文檔(Document)編碼成密集的實數向量(dense vector),並根據向量
2025/08/15
RAG(Retrieval-Augmented Generation,檢索增強生成)中的Retriever(檢索器)是指專門負責從外部知識庫或大型資料庫中快速查找與用戶輸入問題或提示相關資訊的模組。它是RAG模型的核心組成部分之一,目的是為生成模型(如大型語言模型)提供額外且精確的上下文信息,以提升
2025/08/15
RAG(Retrieval-Augmented Generation,檢索增強生成)中的Retriever(檢索器)是指專門負責從外部知識庫或大型資料庫中快速查找與用戶輸入問題或提示相關資訊的模組。它是RAG模型的核心組成部分之一,目的是為生成模型(如大型語言模型)提供額外且精確的上下文信息,以提升
2025/08/14
TIMIT 是一個經典且廣泛使用的語音資料庫,全名為「Texas Instruments/Massachusetts Institute of Technology Acoustic-Phonetic Continuous Speech Corpus」。它主要用於聲學語音學研究和自動語音識別系統的開
2025/08/14
TIMIT 是一個經典且廣泛使用的語音資料庫,全名為「Texas Instruments/Massachusetts Institute of Technology Acoustic-Phonetic Continuous Speech Corpus」。它主要用於聲學語音學研究和自動語音識別系統的開
看更多
你可能也想看
Thumbnail
2025 vocus 推出最受矚目的活動之一——《開箱你的美好生活》,我們跟著創作者一起「開箱」各種故事、景點、餐廳、超值好物⋯⋯甚至那些讓人會心一笑的生活小廢物;這次活動不僅送出了許多獎勵,也反映了「內容有價」——創作不只是分享、紀錄,也能用各種不同形式變現、帶來實際收入。
Thumbnail
2025 vocus 推出最受矚目的活動之一——《開箱你的美好生活》,我們跟著創作者一起「開箱」各種故事、景點、餐廳、超值好物⋯⋯甚至那些讓人會心一笑的生活小廢物;這次活動不僅送出了許多獎勵,也反映了「內容有價」——創作不只是分享、紀錄,也能用各種不同形式變現、帶來實際收入。
Thumbnail
嗨!歡迎來到 vocus vocus 方格子是台灣最大的內容創作與知識變現平台,並且計畫持續拓展東南亞等等國際市場。我們致力於打造讓創作者能夠自由發表、累積影響力並獲得實質收益的創作生態圈!「創作至上」是我們的核心價值,我們致力於透過平台功能與服務,賦予創作者更多的可能。 vocus 平台匯聚了
Thumbnail
嗨!歡迎來到 vocus vocus 方格子是台灣最大的內容創作與知識變現平台,並且計畫持續拓展東南亞等等國際市場。我們致力於打造讓創作者能夠自由發表、累積影響力並獲得實質收益的創作生態圈!「創作至上」是我們的核心價值,我們致力於透過平台功能與服務,賦予創作者更多的可能。 vocus 平台匯聚了
Thumbnail
給定一個字串陣列,請把它們所共有的字元伴隨著出現次數輸出。這篇文章介紹如何使用字典統計出現次數,和字典取交集的方法來解決此問題。並提供了複雜度分析和關鍵知識點。
Thumbnail
給定一個字串陣列,請把它們所共有的字元伴隨著出現次數輸出。這篇文章介紹如何使用字典統計出現次數,和字典取交集的方法來解決此問題。並提供了複雜度分析和關鍵知識點。
Thumbnail
Leetcode 精選75題 題目與題解 熱門考點 目錄 (持續更新中) 建議從左側目錄 或者 按Ctrl+F輸入關鍵字進行搜尋
Thumbnail
Leetcode 精選75題 題目與題解 熱門考點 目錄 (持續更新中) 建議從左側目錄 或者 按Ctrl+F輸入關鍵字進行搜尋
Thumbnail
給定一個輸入非負整樹陣列nums,請找出k值,使得陣列中恰好有k個元素大於等於 k。如果無解,回傳-1。尋找k值的方法包括排序法和二分搜尋法,時間複雜度都為O(n log n),空間複雜度為O(1)。關鍵知識點是當解空間具有遞增或遞減的性質時,可以用二分搜尋法加快搜尋效率。
Thumbnail
給定一個輸入非負整樹陣列nums,請找出k值,使得陣列中恰好有k個元素大於等於 k。如果無解,回傳-1。尋找k值的方法包括排序法和二分搜尋法,時間複雜度都為O(n log n),空間複雜度為O(1)。關鍵知識點是當解空間具有遞增或遞減的性質時,可以用二分搜尋法加快搜尋效率。
Thumbnail
接著介紹可以尋找文字的函式:FIND 跟 SEARCH。這兩個函式都會回傳指定文字第一次出現的位置,而這位置會以數字表示。
Thumbnail
接著介紹可以尋找文字的函式:FIND 跟 SEARCH。這兩個函式都會回傳指定文字第一次出現的位置,而這位置會以數字表示。
Thumbnail
由於不是這方面的專業,所以一切靠爬文嘗試,我的學習之路不見得正確,就記錄一下自我學習的過程。若有高手見文願指點一二,實屬我之榮幸。
Thumbnail
由於不是這方面的專業,所以一切靠爬文嘗試,我的學習之路不見得正確,就記錄一下自我學習的過程。若有高手見文願指點一二,實屬我之榮幸。
Thumbnail
這篇文章,會帶著大家複習以前學過的二元搜尋樹(Binary Search Tree)框架, 並且以二分搜尋樹的概念與定義為核心, 貫穿一些相關聯的題目,透過框架複現來幫助讀者理解這個演算法框架。 二元搜尋樹(Binary Search Tree)的定義
Thumbnail
這篇文章,會帶著大家複習以前學過的二元搜尋樹(Binary Search Tree)框架, 並且以二分搜尋樹的概念與定義為核心, 貫穿一些相關聯的題目,透過框架複現來幫助讀者理解這個演算法框架。 二元搜尋樹(Binary Search Tree)的定義
Thumbnail
這篇文章,會帶著大家複習以前學過的二分搜尋法(Binary Search)框架, 並且以二分搜尋法的概念為核心, 貫穿一些相關聯的題目,透過框架複現來幫助讀者理解這個實用的演算法框架。 Binary search 二分搜尋法框架 用途: 在已經排序好的數列中尋找目標值。
Thumbnail
這篇文章,會帶著大家複習以前學過的二分搜尋法(Binary Search)框架, 並且以二分搜尋法的概念為核心, 貫穿一些相關聯的題目,透過框架複現來幫助讀者理解這個實用的演算法框架。 Binary search 二分搜尋法框架 用途: 在已經排序好的數列中尋找目標值。
Thumbnail
題目會給定一個陣列nums和一個目標值goal。計算子陣列總和=goal的數目有多少。演算法包含前綴和和字典的技巧,時間複雜度為O(n),空間複雜度為O(n)。
Thumbnail
題目會給定一個陣列nums和一個目標值goal。計算子陣列總和=goal的數目有多少。演算法包含前綴和和字典的技巧,時間複雜度為O(n),空間複雜度為O(n)。
Thumbnail
天啊!現在拜科技之賜,知識工具如雨後春筍般推陳出新、目不暇給,實在讓人眼花撩亂,我到底該選擇什麼才好呢?
Thumbnail
天啊!現在拜科技之賜,知識工具如雨後春筍般推陳出新、目不暇給,實在讓人眼花撩亂,我到底該選擇什麼才好呢?
Thumbnail
題目敘述 題目會給定兩個輸入。 第一個輸入是關鍵字清單products,第二個是使用者輸入的字串searchWord。 要求我們實現關鍵字搜尋建議系統,使用者每輸入一個字元就推薦一次。 推薦時,優先返回字典序(Lecial order)最接近的關鍵字,最多不要超過三個關鍵字。 題目的原文
Thumbnail
題目敘述 題目會給定兩個輸入。 第一個輸入是關鍵字清單products,第二個是使用者輸入的字串searchWord。 要求我們實現關鍵字搜尋建議系統,使用者每輸入一個字元就推薦一次。 推薦時,優先返回字典序(Lecial order)最接近的關鍵字,最多不要超過三個關鍵字。 題目的原文
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News