用4個AI人格互相辯論降低AI幻覺 Grok 4.20新模型開放免費用不登入也能問 - 來自癮科技。
文章結論(想要說服你的部分)
Grok 4.20比較不會出現幻覺。
文章原因(用什麼要素說服你)
他採用的不同角色互相結辯的方式，確認整體的推導過程的正確性。
我認為的假設
- 隱含前提：大部分的人都可以分辨得出來哪些是幻覺，而哪些不是，在這樣的前提下去評估AI幻覺。⇒
Gemini說文章提到「幻覺會導致錯誤認知」，暗示了「人類無法輕易分辨幻覺」，所以才需要 Grok 4.20 來幫忙降低 65% 的錯誤。 - 隱藏假設：大部分的AI因為只有一個人能蒐集到的資料有限。⇒
Gemini說真正的隱含假設是：「多模型對話的品質，必然優於單一模型的深度計算」。這點不一定成立，有時候四個平庸的代理人討論出來的結果，可能還不如一個頂尖模型的直覺。 - 隱藏假設：大部分的人都沒辦法同時針對不同的視角提問，所以導致AI在蒐集要回應問題的資料與證據，只能是單向的，也就是說針對提問者當下視角所提出的問題。
- 隱藏假設：大家在對AI提出的問題，都會是正確的問題。
隱藏假設：大家現在都已經非常信任AI，當AI幻覺產生錯誤的認知，會危害到使用者的心理健康狀態。⇒Gemini說原文最後一段直接寫了「AI 幻覺有可能導致錯誤認知，甚至是危害健康」，所以這是直接陳述，不是隱含假設。- 隱含假設：這四個代理人就算各自答案不一樣，但他們最終會找到共識的。
我認為的偏誤
- 大眾謬誤：從使用者不同AI工具互相提問，確認答案的準確度，就相信只要多一點人進來分析同一個問題，那麼就比較不會有錯誤。
- 過度簡化：因為之前的AI都是一個人，所以會碰到幻覺本來就很容易，所以只要增加多一點人就不會有這個問題。
- 語意雙關：因為Grok是四個人同時分析，所以正常情況下會比只有一個人來的好。(忽略了可能的其他因素)
相關問題
- 為什麼大部分AI單模型的關係，所以收集資料和證據不充分，但是變成多人的話就可以變得比較充分，而不是算力的問題？
- 會不會發生推論過程都沒有問題，但結果答案是錯的？
- 如果當AI證據與資料不充足的話，可以不要用其他統計資料去填補答案嗎？
- 多少的證據與資料才算是充足的呢？
- 為什麼Grok設定的代理人要這四個角色呢？
- 如果Grok設定的代理人不是這四個角色會發生什麼事情？
- 如果Grok這四個代理人各自的答案都不相同，他們會以誰的為主呢？
- 如果提問者本身就比較沒辦法分辨幻覺的話，就算降低幻覺的錯誤率，會有幫助嗎？
- 如果我在推出這個Grok的時候，只聚焦於某個領域會怎麼樣？
- 如果我讓幻覺更加嚴重的話會怎麼樣呢？
- 是怎麼比較這樣的方式和過去的方式，AI幻覺的錯誤率有所降低？有實際的數據可以支持嗎？
Gemini補充：為了讓四個 Agent 辯論，Grok 的回應速度降低了多少？算力成本增加了幾倍？這是否意味著這種模式永遠無法應用在需要即時反應（如自動駕駛、急診診斷）的場景？文章說降低了 65% 的幻覺。這個『65%』的基準點是什麼？是跟 Grok 3 比，還是跟 ChatGPT 4 比？測試的題目是客觀事實題（歷史），還是主觀推論題（未來預測）？如果我給 AI 一個『本身就沒有正確答案』的悖論（例如：電車難題），這四個人格會陷入無窮迴圈嗎？還是會因為必須給出答案，而集體編造一個充滿邏輯感的假答案？
