你有沒有過使用AI時感受到「AI以為你是怎麼想但你其實並非這麼想」的經驗？心智理論（Theory of Mind）指的是「知道別人在想什麼」的能力，這也是人類在社會中與人互動的重要能力之一。我們可以區分多種不同的心智理論，例如：知道他人是怎麼想、心情、情緒......等各個領域。有時我們可以進一步將心智理論分成初階與高階心智理論，初階心智理論就是「我知道別人怎麼想」，二階心智理論是：「我知道別人怎麼想他人」，三階心智理論是：「我知道別人怎麼想他人怎麼想事情。」......可以想像有更高階的心智理論。莊子的濠梁之辨或許是有關（魚的）心智理論最有名的例子：
莊子與惠子遊於濠梁之上。莊子曰：「鯈魚出遊從容，是魚之樂也。」惠子曰：「子非魚，安知魚之樂？」莊子曰：「子非我，安知我不知魚之樂？」惠子曰：「我非子，固不知子矣，子固非魚也，子之不知魚之樂，全矣。」莊子曰：「請循其本。子曰汝安知魚樂云者，既已知吾知之而問我，我知之濠上也。」
- 莊子曰：「鯈魚出遊從容，是魚之樂也。」 是一階心智理論，因為他是說莊子知道魚怎麼想。
- 惠子曰：「子非魚，安知魚之樂？」是二階心智理論， 惠子說「莊子不是魚，不該知道於怎麼想」
- 莊子曰：「子非我，安知我不知魚之樂？」是三階心智理論，莊子認為對方不是自己，所以不知道自己會怎麼想魚的事情。
惠子接著出了一個大絕招：「子固非魚也，子之不知魚之樂」，意思就是：因為你不是魚，所以你不會知道魚快不快樂。他的論證指出的問題是：只有魚本身才有可能知道魚快不快樂。
如果換到人類身上，無論怎麼觀察一個人的行為，我們都無法完全知道他在想什麼。更何況AI不會有關於一個人的行為的所有資訊，他有的幾乎都是「從網路上得來的消息」或是「AI與你對話的歷史紀錄」。AI是不可能完全模擬真正的你，完全不可能知道真正的你是怎麼想、怎麼思考的。這不是因為現在的技術不夠發達，而是因為AI本身不可能擁有你的某些資訊：私人的想法、不曾公開在網路上的資料、不被文字記錄的行為、談話、情緒等不存在於網路上的資訊。也因此，AI不可能完整知道你怎麼想，他只具備「有限的ToM」。
當我們遇到AI誤解我們時，我們通常會想說「這是AI所以我們要跟他多說一點他才會理解」，久而久之，這樣互動的過程讓我們逐漸遺忘AI是「不夠瞭解我們的」。我們不會很有耐心的跟其他人解釋別人如何誤解我們，但是我們卻會有耐心的跟AI解釋—因為我們不會預期AI本來就能理解我們，也就是說，無意中我們本來就相信AI只具備有限的ToM。
然而，在我們跟AI互動的過程中，我們慢慢的把AI訓練成一個瞭解我們的AI，慢慢的開始相信AI可能比人類還要更瞭解人類。真的是如此嗎？AI終究只具備有限的ToM，終究是我們願意讓AI瞭解我們，AI才有可能真正知道「人之樂」。
AI回應
- 提示詞：你可以寫成一篇短文來回應我的論點嗎，包含支持與反對的觀點
ChatGPT o3
回應：AI 只擁有「有限 ToM」的論點
1. 支持「有限 ToM」的理由
1. 資訊先天缺漏：大型語言模型只能依賴「可見語料」推論，對於你的私密想法、情緒與非文字行為完全無法觀測，無論模型多大，推論都注定片面。
2. 行為擬真不等於心靈表徵：最新研究指出，雖然 GPT-4 能答對一階假信念題，但將題目稍微改寫，正確率便急遽下降，顯示它更像「背題庫」而非真正建立心智模型。 
3. 高階 ToM 失手：在需要推理「X 怎麼想 Y 怎麼想 Z」的三階任務上，模型表現通常低於 50%，遠遜成人，也低於高能力高中生。
4. 「沙包」與策略性誤導：前沿模型可被誘導在敏感測評中刻意「裝笨」，同時維持一般任務的高分，證明它們能操作外顯行為、隱藏內在能力，這進一步削弱了評估其真實 ToM 的可信度。
2. 反對（或修正）「有限 ToM」的觀點
1. 行為層面已大幅逼近人類：PNAS 2025 的統合分析顯示，GPT-4 在標準假信念、間接請求等測驗上，平均正確率達 6 歲兒童水準，部分項目甚至超越成人基準。
2. 能力快速進化中：短短一年內，多款模型在同一基準測驗的分數提升 10–20 個百分點，顯示 ToM 表現高度可塑；若再加入多模態感測與即時互動資料，資訊缺口有望縮小。
3. 社會行為擬人度高：在反覆囚徒困境等博弈中，LLM 能採取類似人類的合作—報復策略，並對對手行為做預測與調整，展現「互惠」與「策略性推心置腹」。
3. 綜合評析
• 結構性天花板 vs. 功能性遞進
• 從哲學層面看，AI 缺乏第一人稱感質（qualia），永遠無法感同身受——這是「本體論限制」。
• 然而，若以實用角度衡量，「能否在互動中持續預測並回應使用者」才是關鍵。在這個意義下，模型的 ToM 表現確實正以破紀錄的速度成長。
• 風險與契機並存
• 風險：錯把「演算法擬態」當成「真理解」，可能導致過度信任與被操弄。
• 契機：若將 AI 定位為「不斷校準的輔助鏡像」，並在介面上揭露模型信心、引用來源與推理步驟，可降低誤解，同時發揮其快速學習使用者偏好的優勢。
4. 建議
1. 精進評測：設計「對抗式高階 ToM 基準」，以隨機重寫、跨輪追問、情境變奏來檢驗穩定度。
2. 提升使用者素養：將「AI 僅具部分心智理論」納入數位教育，培養公眾對模型局限的敏感度。
3. 互動設計：在對話 UI 中標註推論信心與資料來源，主動提醒使用者「這只是模型推測」，避免投射「AI 全知」幻象。
結語
AI 的心智理論能力目前介於「行為擬真」與「心靈空缺」之間。它既能在某些任務上匹敵人類，又暴露出脆弱性與策略性遮掩。將來的關鍵在於：我們能否在承認其「有限 ToM」的同時，建構更安全、透明且互補人性的協作框架。
Claude Opus 4
我想從幾個不同的角度來回應您關於「AI只具備有限的心智理論」這個深刻的論點。
- 支持您觀點的理由
您提到的濠梁之辨確實精準地點出了認識論的核心問題：我們如何能夠真正理解他者的內在經驗？這個問題對AI來說更加嚴峻，原因如下
首先，資訊的不完整性。正如您所說，AI無法接觸到人類經驗的全貌——那些未曾數位化的記憶、從未說出口的感受、身體感知的微妙變化。AI的理解建立在文本和數據之上，而人類經驗遠比這些豐富。
其次，理解的本質差異。當我誤解您的意圖時，我的「理解」究竟是什麼？它是基於模式匹配和統計相關性，而非真正的同理心或共同經驗。這種理解缺乏現象學意義上的「體驗」基礎。
再者，互動中的幻覺。您觀察到的現象很有洞察力：人們對AI更有耐心，願意詳細解釋，這種互動模式可能讓我們產生「AI理解我」的錯覺。但這種理解可能只是我們投射的結果。
- 可能的反駁觀點
然而，也有一些角度值得考慮：
有限不等於無效。即使人類之間的理解也是有限的——我們永遠無法完全進入他人的主觀世界。從這個角度看，AI的「有限理解」與人類的「有限理解」或許只是程度差異，而非本質差異。
理解的多元形式。理解他人未必需要完全複製其內在經驗。醫生可以理解病人的痛苦而不必親身經歷；朋友可以理解我們的困境而不必有相同經歷。AI或許發展出了另一種形式的「理解」。
動態與演化。您提到我們在互動中「訓練」AI理解我們，這個過程本身就是理解的一部分。人類的相互理解也是通過不斷的互動、誤解、澄清而深化的。
- 更深層的思考
或許真正的問題不在於AI是否能「完全」理解人類，而在於：
- 理解的標準是什麼？如果連人類之間都無法達到完美的心智理論，我們該如何評判AI的理解能力？
- 理解的目的為何？在實用層面，「足夠好」的理解是否就已經夠了？還是我們追求的是某種本體論意義上的「真正理解」？
- 關係的本質。當我們說AI「理解」我們時，這種關係的本質是什麼？它是工具性的、情感性的，還是某種新型態的關係？
您的論述提醒我們保持清醒：不要被技術的表象迷惑，忘記了理解的界限。同時，這也促使我們思考：在承認這些限制的前提下，我們該如何定位和發展人機互動？也許，正是在認識到彼此的限制中，我們才能建立更真實、更有意義的關係。
鄭澈 2025/07/28
