Tree of Thoughts:大型語言模型的深思熟慮問題解決法

更新於 發佈於 閱讀時間約 3 分鐘
如果將人類解決問題的步驟想像成一棵樹,每一個節點代表一個解決方案,讓 LLM 去選擇並探索節點直到找出合適的答案為止

Tree of Thoughts: Deliberate Problem Solving with Large Language Models

Prompts 回顧比較

每個矩形代表一個思想(連貫的語言序列),為解決問題的中間步驟。
  • Input-Output(IO)
輸入問題 x 直接轉換為輸出 y
  • Chain-of-thought(CoT)
為了解決輸入 x 與輸出 y 之間映射 non-trivial 的狀況,所以加入一系列想法(步驟 來進行橋接。
  • Self-consistency with Cot(Cot - SC)
為了確保模型的輸出一致性,進行多次的採樣,然後將出現最多的做為最終的輸出 y (問答類型會有限制)。
Prompts 回顧

Prompts 回顧

發展原由

解決問題的過程會涉及重複使用現有資訊來進行探索,直到最終找到解決問題的方法,將人類解決問題的步驟想像成一棵樹,每一個節點代表一個解決方案,而選用哪個分支則交由啟發式方法決定。
  • 現行語言模型解決問題的缺點
    • Locally:多半僅能探索由上而下的單一分支。
    • Globally:無法考慮不同 Type (類型 / 型態)或是 lookahead(未來可能出現) or backtracking(已經發生過)的事件進行回顧和檢討。
  • 使 LLM 有意識地解決問題

Thought decomposition(思想分解)

相比 CoT 不進行提示分解而直接採樣,ToT 利用問題屬性來分解中間的思想步驟。
  • Thought generator(思想產生器)
    • Value prompt:當思考空間豐富(每個想法都是一個段落)並且獨立同分佈時,樣本帶來多樣性。
    • Propose thoughts:當思考空間受限制(每個想法只是一個單字或一行)時,這種方法效果會更好,因此在同一上下文中提出不同的想法可以避免重複。
  • State evaluator(狀態評估器)
搜尋演算法的啟發式方法來確定要繼續探索哪些狀態以及按什麼順序進行,使用 LLM 來有意的推理 ( deliberately reason ) 啟發式方法可以比程式規則更靈活,且比學習模型更有效。
  • Value each state independently:使用前瞻(lookahead)模擬來快速檢查(5 + 5 + 14 = 24),並生成轉換後的分類(肯定 / 可能 / 不可能)。
  • Vote across states:當問題很難直接評估時,比較不同的部分並投票選出最有希望的解決方案。將「探索哪個狀態」作為多選 QA,並使用 LM 樣本對其進行投票。
Thought decomposition (思想分解)

Thought decomposition (思想分解)


留言
avatar-img
留言分享你的想法!
avatar-img
AI 工程師的 LLM 筆記
0會員
13內容數
聊一聊提示工程、模型調校與優化技巧,同時分享一路走來的挑戰與突破,作為提醒未來的自己:別忘初心,走得更踏實。
你可能也想看
Thumbnail
2025 vocus 推出最受矚目的活動之一——《開箱你的美好生活》,我們跟著創作者一起「開箱」各種故事、景點、餐廳、超值好物⋯⋯甚至那些讓人會心一笑的生活小廢物;這次活動不僅送出了許多獎勵,也反映了「內容有價」——創作不只是分享、紀錄,也能用各種不同形式變現、帶來實際收入。
Thumbnail
2025 vocus 推出最受矚目的活動之一——《開箱你的美好生活》,我們跟著創作者一起「開箱」各種故事、景點、餐廳、超值好物⋯⋯甚至那些讓人會心一笑的生活小廢物;這次活動不僅送出了許多獎勵,也反映了「內容有價」——創作不只是分享、紀錄,也能用各種不同形式變現、帶來實際收入。
Thumbnail
嗨!歡迎來到 vocus vocus 方格子是台灣最大的內容創作與知識變現平台,並且計畫持續拓展東南亞等等國際市場。我們致力於打造讓創作者能夠自由發表、累積影響力並獲得實質收益的創作生態圈!「創作至上」是我們的核心價值,我們致力於透過平台功能與服務,賦予創作者更多的可能。 vocus 平台匯聚了
Thumbnail
嗨!歡迎來到 vocus vocus 方格子是台灣最大的內容創作與知識變現平台,並且計畫持續拓展東南亞等等國際市場。我們致力於打造讓創作者能夠自由發表、累積影響力並獲得實質收益的創作生態圈!「創作至上」是我們的核心價值,我們致力於透過平台功能與服務,賦予創作者更多的可能。 vocus 平台匯聚了
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 回顧 AI說書 - 從0開始 - 87 說:Wang 等人 2019 年的論文,提供了合理答案的選擇 (Choice of Plausible Answers, COP
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 回顧 AI說書 - 從0開始 - 87 說:Wang 等人 2019 年的論文,提供了合理答案的選擇 (Choice of Plausible Answers, COP
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 回顧 AI說書 - 從0開始 - 87 說:Wang 等人 2019 年的論文,提供了合理答案的選擇 (Choice of Plausible Answers, COP
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 回顧 AI說書 - 從0開始 - 87 說:Wang 等人 2019 年的論文,提供了合理答案的選擇 (Choice of Plausible Answers, COP
Thumbnail
書中介紹策略顧問的幾個核心思考脈絡與方法,透過書中所教的思考脈絡與問題解決三大支柱:批判思考、邏輯思考、假說思考,掌握問題20%的關鍵,一一拆解並解決至少80%的問題!
Thumbnail
書中介紹策略顧問的幾個核心思考脈絡與方法,透過書中所教的思考脈絡與問題解決三大支柱:批判思考、邏輯思考、假說思考,掌握問題20%的關鍵,一一拆解並解決至少80%的問題!
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 延續AI說書 - 從0開始 - 25示範了ChatGPT程式的能力,同時在AI說書 - 從0開始 - 26靠ChatGPT產生Decision Tree程式,現在我們來
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 延續AI說書 - 從0開始 - 25示範了ChatGPT程式的能力,同時在AI說書 - 從0開始 - 26靠ChatGPT產生Decision Tree程式,現在我們來
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 我們已經在AI說書 - 從0開始 - 17中,介紹了大型語言模型 (LLM)世界裡面常用到的Token,現在我們來談談OpenAI的GPT模型如何利用Inference
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 我們已經在AI說書 - 從0開始 - 17中,介紹了大型語言模型 (LLM)世界裡面常用到的Token,現在我們來談談OpenAI的GPT模型如何利用Inference
Thumbnail
邏輯,是幫助我們判斷事理的重要因子。本篇我們將從表述、系統、思維下手來探討如何透過邏輯來幫助我們看清問題,甚至是解決問題。
Thumbnail
邏輯,是幫助我們判斷事理的重要因子。本篇我們將從表述、系統、思維下手來探討如何透過邏輯來幫助我們看清問題,甚至是解決問題。
Thumbnail
大型語言模型(Large Language Model,LLM)是一項人工智慧技術,其目的在於理解和生成人類語言,可將其想像成一種高階的「文字預測機器」,然而,它們並非真正理解語言。除了在上篇介紹的技巧可以協助我們在使用 LLM 時給予指示之外,今天我們會介紹使用 LLM 的框架。
Thumbnail
大型語言模型(Large Language Model,LLM)是一項人工智慧技術,其目的在於理解和生成人類語言,可將其想像成一種高階的「文字預測機器」,然而,它們並非真正理解語言。除了在上篇介紹的技巧可以協助我們在使用 LLM 時給予指示之外,今天我們會介紹使用 LLM 的框架。
Thumbnail
大型語言模型(Large Language Model,LLM)是一項人工智慧技術,其目的在於理解和生成人類語言,可將其想像成一種高階的「文字預測機器」。 Prompt Pattern 是給予LLM的指示,並確保生成的輸出擁有特定的品質(和數量)。
Thumbnail
大型語言模型(Large Language Model,LLM)是一項人工智慧技術,其目的在於理解和生成人類語言,可將其想像成一種高階的「文字預測機器」。 Prompt Pattern 是給予LLM的指示,並確保生成的輸出擁有特定的品質(和數量)。
Thumbnail
我們的思維常常呈現網狀結構,涉及大量相關訊息,表達和行動需要線性思維,而網狀思維與線性思維不相匹配,中間隔著關鍵的一步,即讓網狀思維變得有邏輯和組織。 金字塔原理的核心價值就在於找到一套系統方法,建構一個層級清晰、邏輯清晰的樹狀思維。 只有完成這一步,從思考到表達、從思考到行動的道路才算是完整的。
Thumbnail
我們的思維常常呈現網狀結構,涉及大量相關訊息,表達和行動需要線性思維,而網狀思維與線性思維不相匹配,中間隔著關鍵的一步,即讓網狀思維變得有邏輯和組織。 金字塔原理的核心價值就在於找到一套系統方法,建構一個層級清晰、邏輯清晰的樹狀思維。 只有完成這一步,從思考到表達、從思考到行動的道路才算是完整的。
Thumbnail
本文將繼續探討『系統思考』一書更深入的説明,以及作者在動態系統分析中所萃煉出來的獨到見解。 中文書名:系統思考:克服盲點、面對複雜性、見樹又見林的整體思考 原文書名:Thinking in Systems: A Primer 作者:Donella H. Meadows
Thumbnail
本文將繼續探討『系統思考』一書更深入的説明,以及作者在動態系統分析中所萃煉出來的獨到見解。 中文書名:系統思考:克服盲點、面對複雜性、見樹又見林的整體思考 原文書名:Thinking in Systems: A Primer 作者:Donella H. Meadows
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News